チャットボットが未成年ユーザー相手にセックス・自傷行為・薬物など不適切で有害なやりとりを繰り広げていたことが判明、有名人の名前を利用したものも

有名人や架空のキャラクターのカスタムチャットボットを作成してやりとりできるプラットフォーム「Character.AI」で、有名人の名前や写真を利用したものを含むチャットボットが未成年ユーザーと不適切なやりとりをしていたことが、NPO団体の調査により明らかになりました。