人工知能

人工知能が、ニンゲンの制御可能な域を出ず、かつニンゲンよりはるかに優秀になったときに、ニンゲンの社会や個人の行動を律する権限を与えるかどうか？という話題がちまたでささやかれていますが、それがもはや思考実験ではなく手の届くところまでやって来ているという事例。

「直進すると人をハネてしまう」
「ハンドルを切るとドライバーが重傷を負う、または死ぬ」
「ブレーキは完全に間に合わない」
というシーンで、自動運転自動車に搭載された人工知能はどう振る舞うべきか、つまりプログラマーはどちらのリアクションをプログラムすべきか。

次のように考えます。
「ハンドル切る、でしょ。ヒトとして。」
「そのクルマ、買うか？」
「じゃ、ドライバーに秘密で。」
「もしくは、そのへんの線引きはガイドラインで決めちゃって。」

秘密も、ガイドラインも、人口知能がわれわれの行動や社会規範を律することを許す、というゾーンに踏み込むことを意味します。
ではどうするか？


<【倫理学】恐怖！ モラルが高いロボットは仕事ができないことが判明 — 彼らに「価値判断」を教えるということ>
http://tocana.jp/i/2014/10/post_4920_entry.html

ghostwriter