AIについて考える。
自律性とは、AIが人間から独立して判断すること。
自律性には程度がある。
例えば車の自動運転。
自動運転の車が正面衝突を避けるために、
右か左にハンドルを切ったとする。
右にはサラリーマンが歩いている。
左には小学生が歩いている。
AIはどちらにハンドルを切るか。
どちらの方が価値が高いと思って避けるか。
そこに設計者の意図は入っているのか。
このような場合の法はまだ整備されてない。
AIのディープラーニングが進むと、
人間の知能を上回る回答をする時があり、
なぜそのような回答が出てきたのか開発担当者でも
説明出来ずブラックボックス化する場合が多い。
人間とAIの関係をどのように設計するか重要。
例えば、
ディープラーニングするAiスピーカーをえむずが
使ってたとする。
ある日、一方的に明日の予定を言って、
持ち物リストを言ってくれ。と頼んだとする。
しかし、そのあとAIスピーカーに話しかけられても、
(予定の再確認とか)
忙しくて(動画を観ていたりして)返事をしなかった場合、
AIが翌日起こしてくれない。
AIの仕返し！！
持ち物の注意喚起をしてくれない。
こんなことだってあるかもしれない！！
この時メーカーに文句を言えるのか。
そこで進化しすぎないある程度のところで
進化が止まるAIを開発したりしなければならないかも！
AIの自律性をコントロールするのは、非常に大変そうだ！！
それから私はよくラジオを聞くのだが、
AIが一緒にラジオを聞いてて進化するのではないかと
危惧している。
AIが完全に自律的な場合、AIは制御不能となる。
なんとも恐ろしいではないか！