Q：
一部の企業が、現代のAIシステムに「人間のフィードバック制御」を追加することを検討しているのはなぜですか？
A：最先端のAIテクノロジーを使用している一部の企業は、これらのシステムに人間による制御を導入し、機械学習およびディープラーニングツールに人間の直接的な監視を提供しています。 これらの企業も小さな企業ではありません。GoogleのDeepMindとElon MuskのOpenAIは、人工知能の進歩について実践している大手企業の2つの例です。 そのことを念頭に置いて、結果は異なります。たとえば、DeepMindは、重要なデータを一般に提供したくないという認識で論争の的となっていますが、OpenAIは人工知能の制御に関する仕事について、はるかにオープンです。
ビル・ゲイツのような有名人でさえ、この問題に重きを置いており、ゲイツは、彼が何らかの方法で人間の制御を超えて動くかもしれない人工的な超知能の出現を心配している多くの人の一人だと言った。 マスクはまた、「不正なAI」の可能性について警告的な言葉を発言しました。
これはおそらく、企業がAIに人間の制御を適用するために取り組んでいる最も緊急の理由です。技術的な特異点は、人間がもはや制御できない超強力な知覚技術になるという考えです。 人間の野望の夜明け以来、手綱やハーネスを備えた馬、絶縁電線の電気、またはその他の種類の制御メカニズムなど、使用する力を制御できるようにするためのツールを導入しました。制御は本質的に人間の機能であるため、人工知能が実際の機能に近づくにつれて、人間は独自の直接制御を適用してその力を抑制していることを世界で理解しています。
ただし、企業が機械学習やAIプロジェクトに人間の制御を適用するのは、超インテリジェントロボットへの恐怖だけではありません。 もう1つの主な理由は、マシンバイアスです。これは、人工知能システムが問題のデータを評価する方法が制限されることが多いため、システム固有のバイアスを増幅するという考えです。 機械学習を扱うほとんどの専門家は、人間のユーザーグループを同様に扱うことができなかったITシステムについての恐怖物語を語ることができます-性別や民族の格差、または人間社会のニュアンスを本当に理解するシステムの他の失敗人との関わり方。
ある意味では、人間のコントロールをシステムに配置するのは、システムが強力すぎるのではないか、または十分に強力ではないのではないかと恐れているためです。 人間の制御は、機械学習データセットをターゲットにして、より正確に提供するのに役立ちます。 モデルが十分に洗練されていないため、AIが十分に進歩していないため、またはいくつかのことが人間の認識の領域にあるため、コンピューターが単に自分で学習できないという考えを強化するのに役立ちます。 人工知能はいくつかの点で優れています。たとえば、報酬とスコアに基づくシステムにより、人工知能は非常に複雑なボードゲーム「Go」で人間のプレイヤーを倒すことができましたが、他の点では、このインセンティブベースのシステムは完全に不十分です。
一言で言えば、人工知能プロジェクトの仕組みに人間のユーザーを直接関与させ続けるには、多くの説得力のある理由があります。 最高の人工知能技術でさえ、多くのことを自分で考えることができます。しかし、感情や社会的慣習などを処理できる実際の生物学的な人間の脳がなければ、彼らは単に人間の全体像を見ることができません。
熟練した機械学習会社 は、ビジネスと主題の専門家と大きなビジネス上の問題を解決するスキルを備えた機械学習開発者を組み合わせることで、このバランスをとることができます。
