2020年7月1日更新
3EP3クラス
第9回：2020年7月 学習内容／授業の運営方法／学習課題（予習、復習）／課題の解答／今日の一言
Reflections 1
（専門分野特有の問題に関する志向倫理的検討）
・PCを用いた講義
・関連する視聴覚教材の聴講
・学外講師による特別講義
・予習・復習：課題5（90分）
・予習：課題6（Agora上でのケースメッド事例の倫理的問題構造、事実関係、ステイクホルダーなどの把握）（100分）
課題の解答（表現はできるだけ原文のママです。［ ］内は西村の補足ないしはコメントです）
Ｑ．自動運転者を安全に制御するためにはどの方法を取るべきだと思いますか.?
Ａ．
１．AIが制御すべき 16名（27.6％）
２．人間が介入すべき 38名（70.4％）
１．AIが完全に制御する方法を取るべきだ
・AIがバグなどによって不具合を起こしたり、天候などが原因でうまく動作しなかったりなどの非常時にのみ人間が介入する方法を取ると、乗車している人はAIが自動運転してくれるから自分は運転しなくても大丈夫であるという油断が生まれ、いざというときにうまく運転することができなかったり、日常で運転する機会が減ることによって、運転に対する慣れがなくなってしまったりするため、とても危険であるから。
・AIが完全に制御してしまうと、ハッキングなどのサイバー攻撃に対応できなくなるので、人間が制御できる方がいいと考えた。
・hiLであれば、結局は重要な判断は人間がしなければならず、自動運転のメリットが薄くなる可能性が高い。したがって、現在の交通システムを大きく変更してでも、将来的には運転をAIが完全に制御できる方法を模索するべきである。
・スムーズな人間への操作変更が行うといっても、ケースや操縦者によって最善の策は変わってくると思われ、それを危険察知時からAIが瞬時に全て担うのは不可能ではないかと考える。現状の技術でAIが全て操作する自動運転車は難しいかも知れないが、技術が発展して行くにつれ、人間という不確定要素を追加しない方が安全であると考えた。
・どのようなシステムでもAIにすべての処理を任せるとクラッカーなどが脆弱性を突きやすくなるため
・なぜAIが完全に制御する方法を取るべきかというと、現在情報技術は発展しており不具合などが減ってきているそのため私は人間よりAIのほうがミスが少ないと考えているためAIが完全に制御する方法を取るべきだと思う
・もし、事故が起きそうなときに気が緩んだ人が反射的に対応ができるとは限らず、パニックを起こす可能性があり、たとえ対処ができたとしても人間の操作とAIによる操作が同時に起きた際にシステムにエラーが発生し、どちらの操作も受け付けない可能性があるのではないかと考えるため、AIがすべて制御するほうが良いのではと考えるからである。
・飲酒運転や速度超過などの人間が原因の事故が多い。AIにすべて制御を任せれば人間が原因の事故は防げるから。
・完全に制御できるようにならなければ今までのアシストと立場は変わらないと思う。
・緊急時にAIが対応できるとは考えにくいから
・現在の状況ではAIが完全に事故を回避することはできていないがより多くのデータを収集し学習することで正しい判断ができるようになると思う。そのときに人が介入するよりもAIが完全に制御する方法が安全であると思う。
・今の技術ではまだまだAIのみが制御することはできていなくて、人が運転していない場合の責任問題など決まっていないことはあるが、今後すべての車がAIが壮さするようになり、法律なども自動運転用に作ることができれば今より自動運転で死亡することは減るのではないかと考えている。
・私がAIに制御を完全に任せるべきであると考える理由は、緊急時に瞬時に人が操作を切り替えることが出いないと考えるからである。事故が発生する直前に操作を人に切り替えることはむしろ事態を悪化させると考える。AIが制御を行う場合はすべての制御をAIに任せる必要がある。
・私は、機械のミスによる損害よりも、人間のミスによる損害の方が損害の程度が高いと考えているため、人間を完全に排除したHuman out of the loopの選択肢を選択した。
・資料にもある通り、人間の負担を減らすことが自動運転の価値であるため。また、人間が介入することでヒューマンエラーが起こる可能性があるからである。
・事故が起きた場合に、人減の背負う負担が軽減されると考えられるから。
・自動運転の本来の目的は人が運転をしないようにするためのものであり、もし重要な部分を任せてしまうと人間の負担は変わらない。また、機械もミスをするが人もミスをする。それなのに機械がミスをしてしまうことだけをピックアップするのはいかがなものかという疑問も残った。
・主な理由は人間による制御が必ずしも最適でないためである。AIは技術的課題はあるもののデータの蓄積やアルゴリズムの改良によって人間以上に安全な運転を実現する可能性がある。ただし高性能なAIが存在しない限りは安全性に不安があるため、制御された環境下での限定的な利用をすべきだと考える。
・不測の事態に対応するために人間が介入する方法を取っていると、常に気を張っていなければならない。それでは人間が運転しているのと負担が変わらないように思える。また、ごくまれに発生する不測の事態に正確に対応できる人はほとんどいないと考えられるため、安全性を考えても人間が介入する方法は取るべきではないと考える。２．人間が介入する方法を取るべきだ
・AIが完全に自動車を制御して､重大な事故が起こった場合､誰が責任を取るのかがはっきりしていないからである｡この考えは､すでにバグが起こることを前提としているが､そもそも100%ソフトウェアのバグを防げないという性質上､責任問題がはっきりしていないと完全自動運転の実用化は､不可能であると思う｡また､論点がずれているかもしれないが､自動運転が必要な人は運転するべきではないと思う｡
・Aiが完全に制御するようになったら、万が一事故などが起きたときに責任をだれがとるのかといった問題が出てくるから。
・AIが完全に制御する方法だと乗車している人間に車に乗っているという責任意識がないため、テストドライバーのような行動に出たと考え、人間が介入する方法であれば責任感が生まれ事故を未然に防がなければという意識が生まれるのではないかと考える。
・AIが完全に制御する方法を取るにしても段階的に技術のレベルを上げていかなければならないと考えるので、現時点では人間が介入できるようにするべきだと考える。また、機械にすべてを任せること自体にも不安を覚える。ヒューマンエラーのリスクの増大に関しては、現時点で人間に難しいことであってもいずれ改善する方法を作る、もしくは見つけることができるであろうし、人間は慣れる生き物であるとも言うので、それが常識になるほど発展させることができるのなら問題ではなくなると考える。また、リスクを0%にすることはできないとも考えるので問題はないと考える。
・AIが人間の役割を完全に担うことに私はあまりメリットを感じない。AIと人間が共存するためには、あくまで人間がAIを利用する関係であるべきだと思う。従って自動運転が進んだとしてもレベル３までにすべきだと思う。
・AIが判断できない問題に直面した時に、人間による操作が必要であると考えるから。また、AIがどれだけ深く学習されているのかで、能力も変わっていると考えているため、AIの制御だけでは、完全に事故を防ぐことはできないと考えているため、AIは、運転の補助としての立ち位置が良いのではないかと考える。
・AIつまり機械は想定外の事象や故障、設計ミス等様々な要因によって確実に正しい判断ができるとは限らない。そのため、AIはあくまでも保険として考えて人間が自らの知識や経験に基づいた判断をして運転するべきである。
・AIなどで自動運転を制御、管理していても人間が作ったAIなのでミスや盲点があったりする。そういったことでAIによる誤作動が起こってしまう。なので、人間が介入し、AIを監視する面を作っておく必要があると思うからである。
・AIにすべてを任せた場合、事故を起こした際に事故の原因がAIを作成した会社の責任なのか事故を起こした車をンっていた人の責任なのかはっきりしないため。重要な部分のみ人間が操作できるようにし、補助的なことをAIに任せればよいと考える。
・AIに完全に制御させるのは不安だから
・AIに問題が発生した際に人が手を加える必要があるから。
・AIに頼りすぎてしまうと、AIがあるから何もしなくても大丈夫という気持ちが芽生えて事故が起こりそうとAIが察知できたとしても人間は対応できない。だから、基本は人間が運転を行い人間も気づかないような危険を察知したときにAIが作動するような保険のような立場でAIを使用するべきだと考えたから。
・AIのできないことを人間が行い、AIの方が優れていることをAIが行えばトラブルは減ると思うから。
・AIの画像処理による能力には限界があり、例えば天下一品の看板と車両進入禁止の看板を間違えるなど、他にも予期せぬ事態は絶対に起こりえると考えるのが妥当だと思う。人間のミスによる事故は少なくなることが予想できるが、万が一そのような想定外が起因となって事故が発生したとき、それを技術者が「想定していなかった」と言って片付けられる話ではないため、高速など比較的難易度の低い場所ではAIを利用し、街中などでは利用すべきでないと思う。
・AIはプログラムなので倫理的な判断はとれないため
・AIは完璧でも、セキュリティーが完全でない場合、攻撃を受けて異常行動を引き起こすことがある。
・AIは必ずしも完璧な判断を下せるとは言えない。例えば、トレーラーの白い車体と空を自動運転システムが区別できず、事故が起きてしまうという事例もある。
・AIもあくまでもコンピューターなのでいつ誤作動するかわからないので、あくまでAI機能は補助であるべきである。
・たとえこの先、より自動運転技術が発達し事故の件数が限りなく減ったとしても、もし事故が起きた場合、完全自動運転であるとするとその事故は果たして技術者に責任があるのか、それとも運転手が悪いのかという問題を抱えることになると思うから
・やはりAIが完全に制御することは今の段階では難しいと思うので、何かのミスで自動運転に問題が出た場合は実際にのっている人の運転に切り替わるといった方法でないと安全には走れないと思うから。
・異常事態だけの制御はヒューマンエラーが起きやすいと思うが、回避できる事故もあると思う。
・何らかのセンサの故障でAIの判断で止らなくなった際に、手動に切り替える事が出来ないと、自分の命や公衆の危機に繋がるため人間が介入できる余地を残すべきだと考える。
・何事も適材適所であるため、完全にAIに判断を任せるのはまずいと思われる。AIの対処に間に合う機械?ブレーキなど?がないとうまくいかないと思われる。そのほかには、急いでいる人の行動や子供の行動の予測などができなければ難しいと思われる。
・完全なAIの自動運転には認識速度に限界があり、人間の瞬時の判断力も必要になると考えられるから。
・完璧なシステムなんてものは存在しない。自動運転はあくまでも使用が限定された機能として搭載すべき、例えば高速道路や昼の幹線道路のみで自動運転モードの使用を法的に許可し、自動運転中であっても運転手がハンドルを握ればそちら側が優先され、自動運転モードは停止する機能を付けるべき。運転手は自動運転は完全に安全なものではなく、あくまでも運転手の負担を減らす機能という認識を普及させるべき。
・現在の技術力では100％の安全を確保することができないし、物体を認識しなかったりご認識したりする。だから、相手と自分の身を守るためのアクションを起こせるようにしておく必要がある。もちろん、AIでも制御するようにしておくがそれは保険という意味であり、人間が異常に気付いているときはその人の意志によって制御するべきであり、AIによって制御されるべきではない。
・現段階で、社会に自動運転の車が普及しておらず、設備や人の意識が、まだ自動運転車ために作られていない。そのためこのような社会が続く以上、人間が制御に介入する必要があると考えるためこちらを選んだ。 仮にこれらのテスト運転で、人間が普通に運転していた場合、事故が防げたかというと、その可能性は低いだろう。また、テスト運転車がテスト走行中にもかかわらずスマホで動画を見ていたというのはそもそも人間の問題であり、その不注意を開発途中の機械のせいにするのは間違いではないかと思う。それらのテスト走行をふまえた上で改善を重ねて完成させていくものだ。したがって、厳密に意見を言うとすると、社会が自動運転車にあった社会になるまでは、人間の介入は不可欠であり、自動運転車に対応すにつれてだんだんとAIが完全に制御する方法をとるべきだと思う。
・航空機でも積極的に自動操縦が行われているが，一人以上のパイロットの監視の上で使用されている，車であっても同じように，ドライバーが監視し，最終的な責任を取るべきだと考えた．
・資料の事故事例を見る限り、共通してドライバーの不注意がある。AIのサポートがあるといって、車という道具を使う限り使用者にも責任がある。そのため、ドライバーである人間が責任を持って操作できるようにすることが安全で安心の自動運転車が完成すると考える。
・自動運転は、センサーを使って走行するため、悪天候の場合だと、うまく走行できない。また、事故が起きたときの責任問題もある。事故が起こった時、責任は運転手にあるのか、その車を作った会社にあるのか。そのため、自動運転車を安全に制御するには、人間が介入して、臨機応変に対応する必要があると考える。
・自動運転技術やAIはまだ試作段階であり、現状では今後の技術の発展のためも、まだ人間が介入する方法をとるべきだと考えられるから。
・自動車運転をAIが完全に制御する場合、前提から外れた条件が起きると対処する事ができない。したがって、すべての自動車や道路に訪れる人やモノに同じアルゴリズムや条件を搭載しなければならない。それは不可能に近いことである。また、大半の自動運転のテストにおける事故は、制御不可能性における人間の人為的ミスが原因である。つまり、人間が運転に対する意識をしっかり持っていれば事故を防ぐことができる。したがってHILの考え方をもとに、AIによる自動車運転の制御はアシストやサポートに留めることで、重要度の低い人間の判断する箇所を削減し、重要視すべき問題に人間が注意できるようにするべきである。
・実際の事故から人の目という監視から外れた時に事故が発生し、車に搭載されたシステムでも危険の検出が不可能または検出しても別なものとして判断していたため事故へとつながった。このことから、すべての判断を機械で処理することは不可能で、最終的な判断は人に任されなければならないからだ。
・将来的に完璧な自動運転車が制作される可能性はゼロに近く、些細なプログラムのミスが原因となり事故が起きる可能性が高いと思ったからである。また事故が起きたときの責任の所在が曖昧になってしまうことも問題になると考えたからである。
・状況によってはAIが即座に反応できない可能性があるが、人間が介入できる方法を採用していればその可能性を少しでも軽減することができるため。
・責任の在処があいまいにならないように、状況の把握などは常に人間が行うべきだと思うから。
・道路に自動運転車しか存在しないならAIに完全に制御させる法が安全かもしれないが、歩行者や自動運転車でない車がいた場合、それらが自動運転車の予測に反する行動を取り、結果として事故が起こる可能性が大いにある。その場合はレベル3以下の自動運転であれば人がとっさの判断で事故をお防ぐことができるから。
・私は本項目に対し, トロッコ問題を用いて回答を記す. トロッコ問題とは, 簡単に説明すると, 誰かが確実に危害を加えらる場合, どの選択肢を選ぶかという問題である. ex) 自動運転車に対し発生するトロッコ問題 確実にどちらかに進行しなければならない状況下で, 片方は名医1人,もう片方は犯罪者, 高齢者, ホームレスなどが複数人だった時, どちらを選び衝突するか. 自動運転車(人間の介入しない完全な自動運転車, レベル5)を考えたとき, トロッコ問題が考えられる. ロボットが危害を加える人を選ぶことはあってはならないと私は考える. なぜなら上記の例の名医1人に対しても, 犯罪者などを含む複数人に対しても, そこに存在するのは間違いなく命である. それをロボット(AI)が正しい計算の結果として, 命を奪う, 危害を加えるのであれば, レベル5の自動運転車は存在しなくていいと私は考える.
今日の一言（表現はできるだけ原文のママです。［ ］内は西村の補足ないしはコメントです） ※本日全数掲載
［本日はお休みです］
西村が担当する授業の様子は、<nishimura-sensei.net>で公開しています。できるだけ、授業当日に更新するように心がけています。