質問や要求を書き込むとAIが回答してくれるチャットボットは、人間からの質問に対して非常に自然に受け答えできるため、疑似的な友達や恋人、アドバイザーとしてやりとりをするメンタルケアの分野でも活用されつつあります。そのような目的でチャットボットを利用する非営利団体が、実在の人物を対象に「実験に参加する正式な同意なく」「参加者に対する保護なく」行っていたということで、強い非難を受けています。どのような実験が実際に行われたのか、そして何が問題なのか、報道によって指摘されています。
メンタルを崩している若者をチャットボットに誘導する実験を行っていたスタートアップが強く非難される
