Q：
なぜ会社がチャットボットAIプロジェクトをシャットダウンするのでしょうか？
A：企業はさまざまな理由で人工知能チャットボットプロジェクトを停止する場合がありますが、最も可能性の高いプロジェクトはいくつかのカテゴリに分類できます。 まず、不快な発言を促進するなど、企業を不快にする可能性のある方法で行動する場合、企業はチャットボットテクノロジーをシャットダウンする可能性があります。 あるいは、企業は、簡単に制御できない、または公衆衛生と安全に対する何らかの最終的な脅威をもたらす可能性のある感覚と能力を実証し始めた場合、チャットボットプロジェクトをシャットダウンする可能性があります。
これらのシナリオは両方とも最近の歴史で文書化されています。 Tayチャットボットに関するMicrosoftの実験は、Tayが人間のカウンターパートの最悪の特徴のいくつかを引き受け始めたときに終了しました。人種差別的で攻撃的なコメント、および一般的に好ましくない活動です。
非常に異なるケーススタディでは、科学者が人間の観察にやや排他的な方法で通信している2つのチャットボットを科学者が観察したため、Facebookによって開拓されたチャットボットのセットアップがシャットダウンされました。 チャットボットエンティティが「一種のコードで話す」ようになったという主張がありました。 これは、一般的な人工知能に関する非常に現実的な懸念の例です。強力な人工知能の進歩を大きく前進させると、人間はAI実装の例を含めて制御し、交差しないように行動する必要があります境界。 強力な人工知能で対処する必要がある倫理上の懸念と安全性の問題は非常に多く、これは、一部のチャットボットまたは他の人工知能プロジェクトが将来構築した利害関係者によってシャットダウンされる主な理由の1つです。特定のプロセスを通じてそれらをサポートしました。
