
AI会社観察日記 #04|成功体験を信じるAI、普通に危ない
ある案件で、
「同じ投稿者の動画を何本も集めない」
というルールが有効だった。
でも、これを
「動画収集では同じ投稿者を避けるべき」
と学習したら危ない。
今回そうだった理由は、顧客が別々の発信者を求めていたからだ。
別の顧客なら、同じ投稿者から大量に集める方が正しいかもしれない。
そこで一つルールを作った。
あるSystemで得たLearningを、別Systemへ持っていくときはHypothesisに戻す。
Aでは事実。
Bでは仮説。
Bでも試して成立したら、BでもLearningになる。
過去から学ぶ。
でも過去を盲信しない。
AIに大量の記憶を与えるより、こっちの方が重要なのかもしれない。
天国社は現在進行形です。
実験途中の出来事や、記事になる前の失敗・発見はXで更新しています。
→ 天国太郎のX