2020年7月1日更新
3EP2クラス
第9回：2020年7月 学習内容／授業の運営方法／学習課題（予習、復習）／課題の解答／今日の一言
Reflections 1
（専門分野特有の問題に関する志向倫理的検討）
・PCを用いた講義
・関連する視聴覚教材の聴講
・学外講師による特別講義
・予習・復習：課題5（90分）
・予習：課題6（Agora上でのケースメッド事例の倫理的問題構造、事実関係、ステイクホルダーなどの把握）（100分）
課題の解答（表現はできるだけ原文のママです。［ ］内は西村の補足ないしはコメントです）
Ｑ．自動運転者を安全に制御するためにはどの方法を取るべきだと思いますか.?
Ａ．
１．AIが制御すべき 19名（31.1％）
２．人間が介入すべき 42名（68.9％）
１．AIが完全に制御する方法を取るべきだ
・AIによる自動運転が技術的に安全に走行することが可能になれば、高齢者による事故も減らすことが可能になると考えたから。
・AIは人間の気持ちを読み取れないという欠点がある通り、人間の手でAIによる自動化を行っている以上、実際に動作させたときに設定されていない危険予知が必ずない可能性はないので、全てをAIに制御させるのは完璧な安全性が保証させないと思うから。
・運転時に異常が発生し、ドライバーへ警告を促しても、ドライバー側はすべてが機械側で制御されており、問題は起こらないと考えている為、対処に遅れる場合が多いと考えた。その結果、間に合わずに衝突などの事故が発生している為、HooLの手法を取り入れた方がかえって安全ではないかと思ったから。
・現在の事故よりも機械の不具合によっておこる事故の方が少ないと感じたから
・現在の自動車事故の原因は、運転手の違反によるもの（速度超過、わき見運転など）が多いと思うので、AIが自動で、速度管理や周辺車両の確認を行えるようになれば、運転手が原因の事故は防げるから。また、AIの判断ミスやシステムのトラブルなどの不具合に対しても、安全性を確保するために最低限必要な対応すべき事項として、事故の回避につながるよう検討されると思うから。
・現在の状況ではまだAIが不十分な状態だと思うので人間が介入すべきである。
・現段階では人間が介入した方がいいと思うが、将来的にはAI制御がいいと思う。
・最終的に人間の手が入るようなシステムであるのならば、そもそも自動運転である必要がない上、ドライバーとシステムのどちらが責任を負うのかが曖昧になる。人の手が入ることによってかえってヒューマンエラーを誘発する可能性がある以上、人とシステムが混在して複雑化するような仕組みにするべきではない。
・実際に人が運転していても、想定外な事象（子供の飛び出し、事故の巻き込みなど）が起こるため、車両に様々な視点でのカメラを設置し、AIに過失がないことを証明することができれば事故が発生しても、AIに対する責任は発生しないと考える。将来的には、各車両の映像だけではなく、交差点などにカメラを設置し、事故が発生したらその映像を活用できれば良いと思った。
・人間が介入しなければ安全に制御できないのならば、自動運転車とは言えないため。自動車の多くの部分を制御する自動運転車ならば事故に関わる責任をできる限り運転者が負わないようにするべきである。
・人間が介入することは最終的な責任がすべて人間がとることになるだけでそもそもヒューマンエラーによる事故は防げない．今の道路や法律などは人が運転することに対して考えられているが自動運転にとって適切ではないからそこから変えていく必要がある．
・人間が介入する方法を取ったとしても、人間が介入し事故を防ぐ可能性は低いと考えたからである。また、自動運転による事故の原因の根源は、アルゴリズムが不完全だったからである。アルゴリズムの改善を行っていけば事故が起きる可能性は収束していくと考える。
・人間が自動運転に介入するとそれによる事故が起きる可能性もある。また、人間が介入したところで人間である以上、事故を確実に防ぐことはできない。ならばAIにに制御を任せた方が良いと思う。
・人間による居眠り運転などが運転することに関与しなくなり事故数が減るため。また、自動運転で起こる問題を解消していけばゆくゆくは事故が0に近くなるため。
・人間の脳は稀に起きる問題への対処が不得意とされ、自動運転の事故への対処は苦手と考えられる。苦手と言うだけで対処が不可能ではないと考えられるが、対処できる確率は低い。人間が介入できる以上事故が起きれば運転手に責任が発生するが、完全な自動運転であれば運転手に過失は無いため、事故が起きることを考慮すると、AIが完全に制御する方法を取るべきだと私は考える。
・人間の脳は問題が起きたときにのみ対応することは難しいからだ。AIで全てを制御する、あるいは全て人間の手で制御するべきだ。
・人間は、突如起こった問題・出来事への対応は少なからず対応が遅れたりする特徴がある。自動運転を実現する上で、例で挙げられた事故発生で、もしテストドライバーが動画を視聴していなくても、AIが処理できないものが咄嗟に警告され、人間に運転を移されても対応できない内容がほとんどだと考えられる。日常で起こる事故の内容は様々である。それらに対応できるよう人間が介入する部分を作成しておいても、防ぎきれるとは限らないのである。このように人間が中途半端に介入したとしても、完全には制御できないため、AIが完全に制御することが最もよい方法だと考えられる。
・人間はどうしても運転ミスをしてしまう。これはAIでも一緒であるが長い年月をかけて完璧な仕組みを作てば事故0を実現できるかもしれないと思うから。
・人間は必ずミスを起こす生物なため、生物が管理している以上リスクをゼロにすることは不可能であり、自動車が走る速度は人間に想定されていない速度であるため、資料で述べられいるのと同じで急に操作権限を与えられても対処するのは難しいため
・島崎敢の見解が正しければ，人間が介入することによりリスクが向上するから．
・問題解決能力に限界がある人間が介入する限り、ヒューマンエラーの影響で自動車事故を０にすることはできない。確かにAIには不透明性があり、人間だけでは誤作動の原因を解決できないこともあるが、技術の進歩によってAIの質が上がれば、問題解決をAI自体が行い、事故数を０に限りなく近づけることができるため、AIが完全に制御する方法を取るべきだ。
・理想としては、目的地を設定して後はAIが制御するのが人間の手で運転する車より安全に移動ができる。２．人間が介入する方法を取るべきだ
・AIが完全に制御することは、どうしても人間が感じて対処する常識が通じないことや開発側の意識が向かないことがあるため現在の日本のように異常事態が発生した場合いかにスムーズに人間に引き継げるかを考えるべきだと思ったから。
・AIが完全に制御をして事故を起こした場合には、それはAIの責任ではなく開発者の責任となってしまう。どのような場合であっても、人間にが原因にはなってしまうため、人間が介入しておいたほうが良いと考える。そうすることで、2重確認を行うことができてより安全になると考える。
・AIが故障時に暴走してしまうかもしれない。万が一のために、人間が介入できる方法を搭載しておくべきだ。
・AIが人間の負担を軽くしようと運転の制御に関わるのはいいが、AIはときに重大なミスをする可能性がある。それは人間も同じだが、もしAIが完全に制御して人間がそれに頼り切ってしまったら、咄嗟に対応でき兼ねない。命が直接関わってくる場面での人間の負担を完全に無くすことに恐怖を感じるため、AIが完全に制御するのではなく、ある程度人間が介入すべきである。心理学的原因から、人間の脳はほとんどやることがないとき、覚醒レベルを落とすか、別のことをして覚醒レベルを保とうとすることが分かる。機械に完全に頼ることは人間の判断力を鈍らせるため、AIは補助的に考えて行動すべきだと考える。
・AIが問題を起こしたときに、やはり人間が介入できなければ、危機を回避できない。学習パターンの抜け道が見つかれば、必ず事故が発生してしまうから。
・AIでは、路面状況や天候によっては、状況が正しく判断できない場合も存在すると思うため、人間が介入できる方法はあるべきだと思う。
・AIで制御するといっても結局そのAIも人間が作っているわけだから人間が介入することない方法など存在していないと思うし、仮にAIに完全に制御を任せた場合に事故が起きた時の責任が誰も取れなくなってしまうから。
・AIとはいえ完璧ではない部分が存在すると考えるため、柔軟な対応をすることができる人間が介入できる方法にするべきである。
・AIに依存するのは運転できる手段が増えていいがもし誤作動したときに操作不可になっていたら何もできずに亡くなってしまう可能性があるのでそれを防ぐため。
・AIに完全に制御するには不安が大きいので、何かあったように人も操作できるようにした方がよいと考える
・AIのみでの制御では事故をしたときに責任が誰にあるのかがわからなくなるため
・AIは完璧なものじゃないから，あくまで人間の補助としての活用を考えるべきだと思うから．
・AIは人間の負担を軽減でき、便利であるが、完璧なものではなく、自動車の運転については、人間の判断力には及ばないため、誤った判断をしてしまうことがある。そのため、基本制御はAIに任せつつも、AIを過信しすぎずに、人間も状況を注意深く観察し、必要な時には制御に介入するべきであると思う。
・AIは入っていない情報以外の行動はできないが、人間はAIのように組み込まれた情報を元に動いているものではないため、どんな異常が起きたとしても柔軟に対応できると思うから。
・コンピュータウイルスなどにより、プログラムが暴走し始める恐れがあるから。そのような時に手動で制御できなければ、どうすることもできず死ぬから。
・すべてAIに任せきりになってしまうと、エラーが起こってしまった際に、人へ被害が出るかもしれない。このようなことが起きないように、人間が介入し制御する必要がある。
・ヒューマンエラーを完全になくすことはできないため，重大な事故を引き起こす可能性がある運転という行為をAIに制御させること自体は良いと思うが，機械，AIにヒューマンエラーが存在した場合や，センサの不調等が発生した場合のためにある程度人間が介入できる余地を残すべきではないか．
・もしも何らかの原因でAIが働かなくなっても対処ができるため
・安全面においてもそうであるが、危険のともなう車線変更や、追い越しなどの運転は責任をだれがとるのかという問題から運転手が介入するべきではないかと感じた
・仮に自動運転の技術がレベル5まで到達しているのであれば、AIが完全に制御する方法をとるべきだと考えるが、現状レベル3までしか到達していないという点を踏まえると、人間が介入する方法をとるべきだと考える。
・完璧なAIが実現すると考えられないため
・完璧なAIなど存在しないと考える。もしAIが誤作動を起こしたときに、人間が介入する方法がないと、その誤作動に対して行動することができないから。
・完璧なものは存在しないという考えから、完全にAIで制御するにはリスクが大きすぎる。
・既存の自動運転のレベルは３であり、人間の常時監視が必要である。実際に自動運転のテスト走行時に、運転手が監視を怠っていたため、危険を回避できず、事故が起こってしまった事例がある。そのため人間が介入する方法をとるべきである。
・機械では想定した中での対処しかできないが、やはり走っているだけでは対処できないことが出てくる。事故意外の場合でも人間が走っていたからありがたみがあった場面があると思うので人間が介入するべきだと思う
・機械は、あくまで、人が扱うものであると考える。
・機能安全のユースケース図を見る限りでは、ミスユースケースが発生するのは、自動運転を過信するが故の怠慢に思える。これが理由の一つである。また、事故が発生した際に、どこがこの事故の責任を取るのかが分からない。リスク発生状況に関することのため、運転手が責任を取るのか、対して、どこまでがリスク発生状況に属するか明確に定義されていないようにも思えるので、企業が責任を取るのか、それともロボットに責任を課すのか、理解しがたくなる。ただでさえ複雑な道路交通法が存在しているため、これ以上法律に複雑なものを導入すると、運転への過失がどこにあるか、分からなくなるのがもう一つの理由である。
・現在の技術では完全にAIに運転を任せるというのはとても厳しいと私は感じている。実際に自動運転車の公道での自動運転のテスト中にトレーラーと衝突するという事故が起きたという事例もある。これらも含めて自動運転車を安全に制御するためには人間が介入する方法を取るべきだと私は考える。
・高速道路などの大きな道路などの判断は任せてもいいが、信号のある道や、学校が近くにある場合の時は最後の判断を人間にすることで最悪の事態を防ぐことができるためである。
・最終的な理想は「AIが館z年に制御をするべき」だと思うが、前提として安全を守るためにはすべての車に自動運転を搭載する必要があるしそんな技術を搭載した人工知能は作られるまでにまだまだ時間がかかると思うので今の間は人間が介入できるようにした方がよいと思う。
・昨今、高齢者ドライバーによる悲惨な事故が相次いでいる。その観点から言えば、自動運転の導入は必要不可欠だろう。しかし、現状、テストドライバーを乗せていてもなお自動運転による実験中の事故は後を絶たない。そんな状態でAIに任せきりにすれば以前よりも悲惨な事故を多数生み出すことは想像に難くない。故に私は人間が状況に応じて介入し、自動運転は必要最低限に抑えるべきだと考える。
・私は、現状において自動車運転の技術の発展がいくら追いつこうが、道路の無断横断や台風等の予期せぬ状況への道路等での環境が整備されていないためにリスクが発生し続けると考えた。よって、環境が整うまでは人間による緊急時の介入は必要であると思い、人間が介入する方法をとるべきだとした。
・自動運転が完全ではないうちは事故が起こる可能性が十分にある。事故を起こすと命の危険性があるので、しばらくは人間の操縦下での自動運転であるべきである。
・車に乗ってる人も制御できればより安全に自動運転が可能になると思うから。
・人間が介入できるようにしたほうが不測の事態などが発生した場合に対処ができると思ったから。
・人工知能の特異性から分かるように，制御く可能性，不透明性があるため．またロボットは倫理的な判断が出来ないため．
・制御不可能性、不透明性があり責任の有無が難しい自動運転車が人の命を脅かす際、少しでもその車の運転者が責任を負わなくてはいけないから
・全ての事象において「絶対」というものは存在せず，自動運転に関しても例外というものが出てきてしまう．例外処理の中で解決する程度の異常であれば問題ないが，例外処理をもってしても解決しない異常によって事故が発生する可能性もある．そもそも，例外処理を開発する技術に関してもハードルが高いため，例外処理が適切に実装されない可能性もある．以上より，自動運転の制御には人間が介入すべきであり，目指すべきなのは人間が介入しなければならない部分を削減することだと考えた．
・第一にテストの時点で事故が起きている現状では完全自動運転は難しい。また、安全な自動運転をさせるにはAIに膨大なデータが必要である。その膨大なデータがない限りでは人間が介入する方法とって自動運転車を制御する方法とる方が現実的だ。また、この方法取りつつデータも取得すれば完全にAIに制御させるより安全かつ確実に多くのデータを得る事ができると考えられる。
・当時の事故を振り返ると、自動運転車に乗車していた人にも問題があったと考える。人間自身も自動に全て頼らず、周りに注意を払いながら運転するべきであると考える。
・日本は台風や地震などの自然災害が多いため、AIで完全に制御するのは難しいと思われるため。
今日の一言（表現はできるだけ原文のママです。［ ］内は西村の補足ないしはコメントです） ※本日全数掲載
［本日はお休みです］
西村が担当する授業の様子は、<nishimura-sensei.net>で公開しています。できるだけ、授業当日に更新するように心がけています。