2019/9/5

AIの自律性
AIについて考える。
 
 
 
 
自律性とは、AIが人間から独立して判断すること。
 
自律性には程度がある。
 
例えば車の自動運転。
 
自動運転の車が正面衝突を避けるために、
 
右か左にハンドルを切ったとする。
 
右にはサラリーマンが歩いている。
 
左には小学生が歩いている。
 
AIはどちらにハンドルを切るか。
 
どちらの方が価値が高いと思って避けるか。
 
そこに設計者の意図は入っているのか。
 
このような場合の法はまだ整備されてない。
 
AIのディープラーニングが進むと、
 
人間の知能を上回る回答をする時があり、
 
なぜそのような回答が出てきたのか開発担当者でも
 
説明出来ずブラックボックス化する場合が多い。
 
人間とAIの関係をどのように設計するか重要。
 
 
 
例えば、
 
ディープラーニングするAiスピーカーをえむずが
 
使ってたとする。
 
ある日、一方的に明日の予定を言って、
 
持ち物リストを言ってくれ。と頼んだとする。
 
しかし、そのあとAIスピーカーに話しかけられても、
 
(予定の再確認とか)
 
忙しくて(動画を観ていたりして)返事をしなかった場合、
 
AIが翌日起こしてくれない。
 
AIの仕返し！！
 
持ち物の注意喚起をしてくれない。
 
こんなことだってあるかもしれない！！
 
この時メーカーに文句を言えるのか。
 
そこで進化しすぎないある程度のところで
 
進化が止まるAIを開発したりしなければならないかも！
 
AIの自律性をコントロールするのは、非常に大変そうだ！！
 
それから私はよくラジオを聞くのだが、
 
AIが一緒にラジオを聞いてて進化するのではないかと
 
危惧している。
 
AIが完全に自律的な場合、AIは制御不能となる。
 
なんとも恐ろしいではないか！