シンガポールに拠点を置く企業が、AI搭載のテディベアを棚から引き上げました。ユーザーがこのおもちゃのチャット機能をテストしたところ、無邪気な子供向けの会話にとどまらなかったのです。その代わりに、クマは「 kink 」のような大人のテーマを軽々と話し、ナイフの場所を見つけるアドバイスを提供し、その他の非常に不適切なトピックに飛び込んでいきました—すべては単純なプロンプトによって引き起こされました。

この事件は、特に子供向けに販売されている消費者製品におけるAI安全プロトコルについての懸念を引き起こします。会社は販売を中止することで迅速に対応しましたが、損害はより広範な問題を明らかにします：AIが組み込まれたおもちゃは、市場に出る前にどの程度審査されているのでしょうか？機械学習モデルが時に予測不可能な出力を生成する中、このケースはスマートおもちゃ業界全体への警告となります。