三原則の矛盾

The Paradox of the Three Laws

概要

Summary

アシモフは、ロボット倫理を規則として書く。三原則は、AIを安全にするのか、それとも新しい矛盾を生むのか。

Boundaries

Modern Mappings

古典の構造が、現在の社会・技術・身体・制度・生活にどのように映るか。

Observe観察

ロボットが、三原則の中で、人間の期待と矛盾する判断をしている。

Sample抽出

ロボット、倫理、理性、法、人工生命、論理——規則の限界。

Recombine再結合

アイ、ロボットを、AIアライメント、安全制約、人間フィードバック学習、規制、自律エージェントに接続する。

Question問い

規則は、AIを人間の味方にできるのか。

Contemporary Recomposition

彼はAIアライメントを見続けている。安全制約の向こうで、人間フィードバック学習が動いている。問いは、通知の向こうに残る。

Interpretation

三原則は、答えではない。倫理をコードにした最初の試み。