2020年6月30日更新
3EL2クラス
第9回：2020年6月 学習内容／授業の運営方法／学習課題（予習、復習）／課題の解答／今日の一言
Reflections 1
（専門分野特有の問題に関する志向倫理的検討）
・PCを用いた講義
・関連する視聴覚教材の聴講
・学外講師による特別講義
・予習・復習：課題5（90分）
・予習：課題6（Agora上でのケースメッド事例の倫理的問題構造、事実関係、ステイクホルダーなどの把握）（100分）
課題の解答（表現はできるだけ原文のママです。［ ］内は西村の補足ないしはコメントです）
Ｑ．児童運転者を安全に制御するためにはどの方法を取るべきだと思いますか.?
Ａ．
１．AIが制御すべき 14名（28.6％）
２．人間が介入すべき 35名（71.4％）
１．AIが完全に制御する方法を取るべきだ
・0,1で物事を考えるのは脳死であると思うが故に、好きではないが、モデルSのAIが反応したおかげで、救われた命もあるのが事実なわけで、現在は未だ発展途上のものに対して批判をして科学の進歩を妨げる活動を活発に行うことはいかがであるのかとも思える。当然、死亡事故があるが故にAIの学習データが蓄積されるという惨い事実もあるが、現在は、まだ人間と機械が協力をしあって制御を行っていない使い方をしているユーザもいるわけである為（このユーザが事故を引き起こしていることが多いと私は感じている）、一概に批判するべきではないと考える。
・AIがすべて自動で操作してくれるかもしれないが、少なからず自動で運転しているか心配に思う気持ちがどこかにあり、完全にAI技術を信用してはいないから、人間が介入する方法を取るべきだ。
・AIが人間を超えた判断をし、開発者も把握しきれない動作を取るといったことの可能性が完全にないとも言い切れないので、全動作をAIに任せるのは現在の技術段階だと危険であると考えたため。
・アクセルとブレーキの踏み間違えや逆走など人為的ミスを減らせるため
・エラーなどで予測不能なことが起きた際に今までのプログラム通りに動く機械であれば対処できず、事故が連鎖してしまう可能性があった。しかしAIは人間と同じく学習能力があるため今までの経験から対処してくれるのではないかと考えたから。
・そもそも、自動車運転を人が行なっている上で事故が無くならないことが事実。感情が無い機械に運転をすべて任せるべきでない。
・そもそも技術の発展には多少の犠牲は仕方がない。今走っている車も数々の問題を乗り越えてこーやって今当たり前のように走っている。AIの自動車もそのうち当たり前のような日々がくる。そして、高齢化が進むが地方では過疎化などで公共交通機関がなくなってきていて、お年寄りが車が運転して事故を起こす件が年々増えてきているので、やはり自動運転は必要だし、完全に制御する必要がある。
・まだ技術が追い付いていない
・危険が生まれたときとかに人間が介入するシステムだと人間が問題に対処できなく事故が起きてしまうような問題があると感じたから。運転席に乗ていても動画を見たり本を読んだりして他ごとをしていると実際に危険が生じた時にすぐに行動に移すことは難しいと思う。危険が生じた時にすぐ行動に移せるようにするためにはやはり常に周りの状況を気にしていないといけないと思う。ただこれだと自動運転の意味がなく人間が運転していることとほとんど変わらないことだと思う。そのためAIが安全に完全に制御できるまでの技術を確立するべきだと思う。AIで安全に運転することで人間が介入する必要がなくなることが本当の意味での自動運転だと自分は考える。
・危険な時だけ人間が制御するというのは島崎さんが言うとおりに対処できないと思う。しかし、AIでの制御ならば統計的なデータさえあれば人間よりも正確に対処できるはずである。また、台風などのイレギュラーの事態に対しては人間でも対応できるか怪しいことも多いためAIに任せてしまってもよいと思う。
・結局人間が少しでも介入するのであれば自動運転を目指す必要はないし、高速道路のみ自動運転にすれば良いから。現在では駐車もスマホなどでできるため完全なＡＩで制御することは不可能ではない。一つ問題点があるとすれば、事故が発生したときに誰が責任を取るかという点だ。
・昨今では高齢者ドライバーなどの事件が多く、アクセルとブレーキの踏み間違いなどの人為的ミスの事故が多発している。よって、AIによる制御により、事故減少につながると考えるから。
・昨今の日本では、高齢者の自動車事故が急増しており、高齢者は増加傾向にあるため、AI制御によって皆が比較的安全に運転ができるため。
・自動運転開発中の事故から、人間が乗っていても事故は起きてしまうし、心理学的にも急に機械から運転を移譲されても対応することができないとされているから。従って、AIが完全に制御できるように膨大な量のサンプルを用意し、どのような場合でも安全を保てるようにする。
・人間の能力では限界があるため安全のことを考えればこの方法をとるべきだと思う
・人間は突発的なことに対応できないし、人間と半々でやるなら全部AIにしたほうがいいと思った。AIだったら機械的に最善の判断をできると思うから。
・全てコントロールされてしまうと人間本来の機能の成長がなくなる
・全ての自動運転で完全にAIを導入した場合、互いの車を通信機能によって特定し人間よりも遙かに安全に運転できると考えたため。
・問題発生時に人間が不安定な状態で中途半端に操作をすることは危険だと思うから。２．人間が介入する方法を取るべきだ
・AIがもし間違った行動をしたときに人間が介入し、制御するほうが安全性が高いと思うからである。
・AIが完全に支配しているときに起きる事故は大きな事故になりやすいと感じた。資料の事故は［AIが障害物を障害物と認識しなかった。もしくは自動ブレーキが作動しなかった］と書いてある。もし人間が同じ事故を起こすとしたらわずかでもブレーキを踏んで減速していたはずである。AIの事故はノンストップで事故を起こしている。またAIを過信しすぎているため人間の反応が遅れブレーキが間に合わなくなる。仮にAIが完全に制御した車を量産し、そのうちの一台でも事故にあったら、同じ型で作られたすべての車の信用がなくなってしまう。このような理由からAIが完全に制御する方法はとるべきではないと考えた。
・AIが完全に制御できる時代になるのはAIが１００年規模の情報を収集し、あらゆる地形データ、物体の予測がとれないと、完全にAIに制御させるのは無理だと考える。だから自動制御の補助の役割を果たすために、運転手は自動操縦時に動画を見ないなどの法的整備をしていくしかないかなと思いました。
・AIが管理する方が正確に管理できるかもしれないが、AIがエラーを起こしてしまうことも視野に入れて人間も介入するべきである。
・AIが制御不能になった場合、大きな事故に繋がるため。また、完全制御ではない場合人間が介入して制御をとるという行動をすることが出来るため。
・AIだけでは資料にあったようにエラーによる事故が起こる危険性がある。AIと人間の両方で対策すれば、AIの欠点を人間が補い、事故は減らすことができる。
・AIには制御不可能性や不透明性という特異性があり、機械が制御不能になる危険があると感じた。そのため、公衆の安全を守るために、異常時には人間が介入し制御するべきである。
・Aiに完全に任せてしまうと、事故が起きた場合に誰に責任追及を行うかが難しいため。
・AIに問題が起こったときに、人間が介入できるようにしないと事故を防ぐことができないから
・AIのみに運転を任せた場合、認識のミスで事故につながる可能性があるため。
・AIの価値観で判断すると人間にとって都合の悪い結果になる場合があるから
・AIは機械的で確実性はあるが、誤作動を起こす可能性もあり、不完全なシステムである。あくまでもAIは補助的に利用して、最終的には人間が判断する必要がある。
・AIも人間が作るものなので動作に不備が生じてしまう可能性はゼロではない。ゆえに、人間とAIが相互に安全性を高めていくほうが、安全性は高くなっていくと思われるから。人間かAIかのどちらかに一任するのではないほうが良い。
・ジェットコースターでさえ、緊急時には人の手によって緊急停止ボタンを押さないといけないのだ。そう考えると、我々の中にわずかでも人工知能の性能に不信感がある限りは、人間が介入しなければならないのである。
・まだ死亡事故が起きたりして、人工知能に100％任せられるような信用性がないから。 事故が起こるパターンは無数にあり、ウーバーATG社のように事故が起こってからでないと気づくことができない問題があるから。
・もちろんAIに全てを任せることができればそれに越したことはないが、もし問題が起きた場合に、その時に瞬時に人間が対応するというのはほぼ不可能であるため、それならば、運転というものを、あくまでも人間が中心に行うということは前提条件にしなければならないと思うから。
・安全にという観点から見れば、人が介入したほうが確実性はあると考えられる。AIでは不足の事態に備えられないから。
・機械が暴走して、非倫理的な走行をしないために、人間がメインで操作するべきだと思う。人間には人間の良さがあって、AIや機械にもそれぞれの良さがある。その両方を活かした方が、より安全であると考える。レベルは２、３程度のアシストがついていればいいのではないかと感じる。
・機械的な判断で運転することで事故を回避しようとしているが、事故起こっている。すると、感情や倫理的な考えが存在していない機械に運転を一存させてしまうと、責任のなすりつけ合いが起きるため、あくまで人間が運転手であってサポートにAIが存在するという事実にするべき。
・携帯電話を例にあげると文字を書く、辞書をひくといった機能が低下する
・現状では、AIが完全に制御する方法を確立にするにはまだまだ時間が必要であり、現実的ではないため。しかし、将来的にはAIに完全に制御させるために開発を進める必要があると考える。
・現状ではコンピュータやセンサの制度、AIがまだまだだからとかんじたからである。大切な部分は人間が制御した方が良いと思う
・現代において、AI技術が発達して、自動運転など導入されるようになっているが、完全な自動運転ではないのは、まだAIでは対応できないところが多いからだと持っている。危険を予測しても回避できないのが事故であり、AIが誤作動を起こした場合を考えると、人間が介入したほうが良いと思う。煽り運転などもあり、AIがそれらを対応できるとは思わないため。人間が介入することを前提で考えて、多少の補助程度に考えておくのが良いと思う。
・工作機械など人間に危害を加える可能性があるものには緊急停止スイッチがついているが自動運転車も同様に人間に危害を加えてしまう可能性があるため緊急停止スイッチのような人間の手で即座に停止することができるようなシステムを組み込むべきである。
・今の技術力ではAIの信頼を消費者から得ることは難しいため
・事故などが起きた場合、責任がどこに向くのか明確でないし、安全性が完璧ではない。
・自動運転だけでは障害物や人を識別することができず、被害が出る可能性があるため、そのような緊急時には人間が操作に介入できるようにする方が良い。
・人間が加入する事を前提に自動運転技術の研究に取り組んでいては本末転倒のように感じられるが、現在のAIは人間の力では扱うことが難しいほどのパラメータを使って計算がされている。すでに人が扱いきれないほどのパラメータを使って計算がなされている中、AIによる完全自動運転の実現は不可能に近いように思う。万が一実現できたとしても事故が発生した場合、人間には不可能に近い複雑な計算を行っているため原因の特定ができず、世の中に普及するとは思えない。そのため、現在の技術では人間が介入しなければ自動運転の実用化は難しいと考える。
・人間の間違いによる事故を起こさなくするためにAIに運転を任せることはよいと思うが、しかしAIも完ぺきではなくこれまでにない不測の事態が起こった場合必ず人間による判断が必要になるので完全にAIに任せるというのは危険であると感じるため。
・全て自動制御に任せた社会にしてしまうと、例えば事故を起こしてしまった場合に自分が運転していれば未然に防げたことなどが出てきてしまい、機械によって自らの社会的地位をどん底に落としてしまう可能性が出てくるため。
・本当の緊急時にAIを信用できないから
・予想もできないことが生じてしまいプログラミングでは対処できないことが起きるため。googleでの黒人のことをゴリラと認識してしまったのもしっかり人間と判断できるという甘い考えが起こしたことだと思う。
・予想外の言動や状況になる場合があるので人間が介入する必要があると考えている。AIじゃ考えつかないような行動を小学生などがする場合もあるんでドライバーがいてしっかり対応できるようにしておくべきだから。
・利用するのは人間なので、AIの計算やシュミレーションと人間の介入による不確定の要素を考慮sることが重要だと思うから。
今日の一言（表現はできるだけ原文のママです。［ ］内は西村の補足ないしはコメントです） ※本日全数掲載
［本日はお休みです］
西村が担当する授業の様子は、<nishimura-sensei.net>で公開しています。できるだけ、授業当日に更新するように心がけています。