Q：
一部の人々が人工知能を心配しているのはなぜですか？
A：変化は容易ではなく、多くの人々はそれに適応するのが困難です。 これは特に技術の変化に当てはまります。 著名なハーバード大学教授のCalestous Jumaは、「イノベーションとその敵：人々が新しいテクノロジーに抵抗する理由」というテーマで本を執筆しました。 人工知能に関しては、テクノロジーの影響は特に厄介です。
誰もがこれらの進歩に不利なわけではありません。 「The Singularity is Near」と「The Age of Spiritual Machines」の著者であるRay Kurzweilは、遺伝学、ナノテクノロジー、ロボット工学（非生物知能に使用される用語）の利点を促進する伝道者にほかなりません。 しかし、これらは同じ問題であり、同じ人物であるカーツワイルは、2000年にサン・マイクロシステムズのチーフ・サイエンティストであるビル・ジョイに大きな懸念を引き起こしました。
ジョイは、Wired誌の「なぜ未来は私たちを必要としないのか」という有名な記事で彼の心配について書いた。彼は人類のまさに未来が危機にatしていると信じていた。 進化史の競争について、ジョイは次のように書いています。「生物種は、優れた競合他社との出会いを生き残ることはほとんどありません。」 ディストピアの未来のビジョンが思い浮かびます。
科学者が、人間よりも高い知能レベルである人工スーパーインテリジェンス（ASI）を備えたマシンを開発できるとします。 ジョイは、次の2つのいずれかが発生する可能性があると言います。マシンが独自の決定を行うことを許可されるか、人間がそれらの制御を維持するかです。 マシンに電源を渡すとどうなりますか？ 結果はどうでしょうか？
懸念を表明するのはビル・ジョイだけではありません。 技術の第一人者であるイーロン・マスクは、「人工知能を使って悪魔を召喚している」と述べました。そして彼はWired誌に語った、「AIが人間を完全に置き換えるかもしれないと恐れています。」
これらの恐怖は正当化されますか？ ジョニー・デップのキャラクターが人工知能と破壊を破壊する「トランセンデンス」のようなSF映画は、人間が機械とどのように融合するかについてのカーツワイルの予測を思い起こさせます。 想像力は、人工知能がうまくいかない可能性のあるすべての方法について暴走しています。 マシンが制御を取得するとどうなりますか？
2つの実際の例は、人工知能に関する心配がどのように理解できるかを示しています。 2007年、ロボット大砲が9人を殺し、14人を負傷させました。一部の高度な軍事兵器は自動的にターゲットを選択しますが、人間が引き金を引くのを待ちます。 ここで誰が決定を下したのですか？ 2016年、300ポンドのセキュリティロボットが倒れ、16か月の幼児を走りました。 この場合、だれが管理していましたか？
一部の人々が人工知能を心配している理由は、リスクが現実的だからです。 次の質問：これらのリスクをどのように管理しますか？
