AIを信頼できますか？ その調査結果を客観的に有効であると疑問なく受け入れるべきですか？ 問題は、AI自体に質問しても明確な答えが得られないことです。
AIシステムは一般にブラックボックスのように動作します。データが入力され、データが出力されますが、そのデータを変換するプロセスは謎です。 それは二重の問題を作成します。 1つは、どのアルゴリズムのパフォーマンスが最も信頼できるかが不明であるということです。 もう1つは、一見客観的な結果は、システムをプログラムする人間の価値とバイアスによって歪められる可能性があるということです。 これが、そのようなシステムが使用する仮想思考プロセス、または「説明可能なAI」の透明性が必要な理由です。
倫理的義務は、GDPRの対象となるすべての人にとって法的なものになりました。これは、EUに拠点を置く企業だけでなく、そこにいる人々や組織と取引を行うすべての人に影響を与えます。 これには、「特定の状況を除き、自動化された意思決定のみに依存しない権利」および「意思決定に関与する論理に関する有意義な情報を提供する権利」をEU市民に適用するデータ保護に関する多くの規定が含まれています。 」
