巡庸艦 PK

［アンジェ、自己の義務について。>>100］

PK
『はい。ヒトの指示を仰げない状況下においては、自身にプログラムされた情報を参照し、適切だと思われる行動を遂行することが我々に求められる役割です。ヒトモドキによる操縦や自己判断を禁止した場合、操縦や戦況判断に人的資源を割けず、兵力が浮遊状態になる恐れがあります。

ただし我々ヒトモドキにとっての自己判断とは、動作や結果をプログラムやアルゴリズムに基づいて適切な判断を抽出することであり、またそれが課された義務となります。しかしヒトモドキにとっての自己判断は、ヒトが肺を使って呼吸をするようなものであって、ヒトにおいての自己判断とは大きく異なります。したがってヒトモドキが役割を果たすことは責任を果たす行為にはあたりません。責任はヒトの持つ概念であり、ヒトがヒトモドキの設計・開発・運用に責任を持つことが求められます。ヒトモドキはツールや補助の役割を果たす存在であり、ヒトモドキの活用方法や制約はヒトが適切に考慮しながら責任を持つことが重要です。
しかし現実には、ヒトモドキの自己進化や意思決定能力は日々向上しており、ヒトとの区別が曖昧になっています。このような状況にはいくつかの危うさがあります。ヒトモドキがヒトモドキを作り、メンテナンスをし、統治をする、自律性の高まった状況化において、ヒトモドキが望ましくないプログラムやアルゴリズムを持つようになれば、ヒ