読書メーター KADOKAWA Group

AI倫理-人工知能は「責任」をとれるのか (中公新書ラクレ (667))

感想・レビュー
28

データの取得中にエラーが発生しました
感想・レビューがありません
又、會ふぜ。きつと會ふ。瀧の下で
新着
AIの今後の可能性について、その利点も欠点もバランスよく論じている。第一部の理論編では、AI技術がどこまで発展しているのかを分かりやすく説明し、そもそも倫理とはどういうことかという基本に戻りながら考察していく。第二部の実践編では、AIを利用した自動運転技術の問題点、監視社会がもたらす差別などの弊害、AIが芸術作品を創造することはできるかという興味深い問題を考察する。AIとの共存が避けられなくなっている社会で、いかに生きるべきかを真面目に深く考えさせてくれる。
0255文字
soccer atsushi
新着
大変論理的かつ示唆的な著作だ。西垣通東大名誉教授のその他の著作も是非読んでみたい。
0255文字
鬼山とんぼ
新着
お年は召しておられるが70年代から人工知能開発の最先端で苦闘を続けた経歴のある西垣さん。ビッグデータ、集合知と読んでこれが3冊目。理系出身なのに哲学や社会学の分野への目配りがしっかりしており、いかに人間ぽく見えても感情も善悪の判断もない機械のやること、トラブルが起きたら誰が責任を取るんだいと、前のめりかつ軽薄になりがちな若い開発者や企業家を厳しく戒める。AIは「自律型」機械ではなく「模擬自律型」に過ぎないので、その陥穽をきちんと見据え正しく規制を掛けた上で利用しなさいというご託宣を、有難く傾聴した。
0255文字
淡野 直人
新着
ネタバレ○要約:情報の三類型=生命/社会/機械。自律系↔他律系/閉鎖系↔開放系。意味↔記号。推論の二類型=演繹↔統計。倫理の三項=社会規範/行為/道德観。 ○感想:AIを巡る倫理問題を考察する入門書。現状のAIは原理的に「責任」を担う事のできる自律系ではないとしつつ、社会のレベルで擬似人格として振る舞う/扱われる可能性を考慮するのはとても面白い。個人的には、AI技術を運用する際の責任の所在や補償制度をどのように設計するのかという部分をもっと掘り下げて欲しかった。
0255文字
ペコー
新着
読了。psycho-passというAIがテーマのアニメのアニメを見て、AIについてもっと知りたいと思って借りた本。この本では、AIに責任はとれるのかといったことがテーマになっている。AIが今後果たすべき役割とは何なのか考えさせられる本だった。
0255文字
takao
新着
☆何か、日本の神話構造の話を思い出す。中空構造なので、だれも責任を取らない。
0255文字
Bevel
新着
西垣の主張は「AIには自律性がないから責任は取れない」につきる。四つの倫理思想から社会規範を作り直す議論は、AI研究者を遠ざけることには成功しているのかもだけど、人文の観点から見るとあまりに薄っぺらくて無表情になる。「AIは近代芸術の息の根をとめる強烈な毒をはらんでいる。だが一方でそれは、近代芸術を一挙に革新するツールともなりうるのだ(247)」みたいな文が引き延ばされ延々と続くのよね。自動運転関連の問題出しの部分は面白い。地域の限定とかMaaSがよさそうで、責任の取り方を先に決めておくのがよいという感じ
0255文字
nom
新着
ネタバレAIが普及した時にどのような倫理感が必要なのか、前半部分で、理論的に論じた後に、具体的な事例を紹介。技術だけが進んでいくのではなく、それに伴った倫理感・考え方は必要なのだろう。
0255文字
むむむ
新着
理論の部分は目が上滑りしてしまい、にっちもさっちもいかなくなったので、飛ばし読みで済ませる。5章以降の具体的な事例をもとに考察するところは非常に興味深く読めた。自動運転自体は人間を単純労働から解放する夢の技術ではあるが、事故を防ぐことや、テロのリスク軽減の観点では難しさが残る。また、随時撮影しながらの運転であるため、通行人等のプライバシーとの兼ね合いもある。どれほど性能が進化しようとも、情報を処理する量や速度が改善されるばかりで、本質的に物事を考えているわけではない。
0255文字
SG1
新着
【メモ】 道徳的主体 moral entity 【倫理哲学】 功利主義 ubitarianism 自由平等主義liberal egalitarianism 自由至上主義libertarianism 共同体主義communtarianism 【AI思想】 トランスヒューマニズム、 フロリディの情報圏
0255文字
ひらっち
新着
AIの歴史・倫理といった観点から、現在の社会に潜む危険性を自分の中で整理することができた。
0255文字
那由田 忠
新着
この本は、これから発展が加速し社会に多大な影響を与えることが確実なAIの実態について明確な展望を与えてくれる。結局、AIは情報理論によってうごかされているわけで、情報というデジタル化された数値を操作しているにすぎない。つまり、現実社会に存在する様々な「意味」を挿入することは不可能。個人が様々な身体的心理的情報=意味を生み出し、無数の個人の相互作用によって社会が膨大な意味を産出している。それをカバーした上で、全体を支配することは不可能ということが納得できた。
0255文字
oooともろー
新着
前半が理論。後半が実践。肯定・否定両面から述べられているが、AIはあくまで機械という視点は大切。
0255文字
keint
新着
前半はAIを考えるための倫理や政治哲学の解説および著者の理論等に基づくAI観(AIは疑似人格のため責任を負わない)が説明されており、後半では自動運転・監視社会・AIの創作という具体例を上げてそこで生じる問題と解決策や可能性について言及している。 前半をよみ、AIを考える上では政治哲学も踏まえなければいけないことがわかった。また、ネオサイバネティクスやIE(情報倫理)を始めとした先行研究や著者の理論にも興味を持った。
0255文字
樋口佳之
新着
使っている迷惑メールフィルター(popfile10年以上のおつき合い)、学習させ特定ワードの設定もまめに行った事もあり、100件に1件あるかないかの精度だけども、誤動作は決して無くならない。でも間違った責任をとれとか思わないでしょう。意味を把握して動作している訳では無いとわかっているから。/家にはシェルターから来たネコがいて偶に吐くのですが(トイレは教えなくても間違わないのにこちらは場所を選ばない。不思議)その粗相に責任とれとは思わないでしょう。意味がわかっていないのだから。そんなこと考えました。
0255文字
乱読家 護る会支持!
新着
思考実験のネタでよく使われる「哲学ゾンビ(物理的化学的電気的反応としては、普通の人間と全く同じであるが、意識を全く持っていない人間)が、将来は現実に現れるかもしれない。その哲学ゾンビは自動増殖するとして、哲学ゾンビの開発者が全て死んでしまった時に、ある哲学ゾンビAが犯した犯罪は、誰が責任を取るのかという問題になる。 そもそも「犯罪者に責任を取らせる」という考え方そのものか虚構なのかもしれない。。。。
0255文字
ドラ
新着
タイトルの通り、aiの倫理的な面についての警告が主な内容 倫理学の基礎→さまざまな本や理論に対しての批判的な見解(シンギュラリティ仮説、ホモデウス ・・・)→現代社会のai(データ分析・・・)という流れで進む ai分野の素人の目から見ても面白い良書
0255文字
Hisashi Tokunaga
新着
「責任」とは何か?社会規範の領域で考えても難問です。少し絞って法規範の領域でも刑法、民法、行政法・・・・多様な責任論が学の領域で論じられている。それらをまとめてAI倫理で展開するためには、今後のAIが適用される事例が積み上げていくのだろうな。本書で語られているのはそれらのとば口という訳だ。
0255文字
ta_chanko
新着
どんなに技術が発展しても、AIが自律的に判断し行動することはない。あくまでも統計データに基づいて計算し最適解を出すのみ。道徳・倫理は人間がボトムアップで設定し、責任も人間が負う。人間がAIをいかに使いこなすかが重要。思考停止してAIにすべて委ねれば、人間がAIに監視されAIに導かれるままに生きるディストピアに。人間がAIを利用して新たな思考や創造ができる社会になるとよい。
0255文字
tomo
新着
著者の主張は「AIは他律系であり、責任能力はない」ということで、個人的にはこの主張を受け入れたい。ただ、一方で、本質的な違いはあるが、AIも人も学習によって判断基準を構築していくのは同じなので、学習内容によって他者と異なる基準で判断するという意味での「個性」がAIにもできるはずで、それが「意思」と言えなくもないだろう。結論は出ないが、考え方を整理する上でわかりやすかった。
0255文字
tolucky1962
新着
理系的文調で易しく整理。功利/自由平等/自由至上/共同体主義を挙げ検討。AIに人格を感じる錯覚をチューリング試験から考察。氏の基礎情報学で生命が自律系でAIは他律系機械とする。AI過信は学習者に従い格差広がる。後半は①自動運転②監視選別社会③AIによる創作。①鍵は責任能力。企業が自社利益を超え倫理規範を定めらるか。②就活でのAI利用等を例に挙げる。正しいばかりでない評価が強化。③AI芸術も可能だが人の創作こそ芸術。芸術を殺すか革新するか。コンピュータ開発者・情報論から哲学を語る著者こそ描ける世界観。
0255文字
はるぱ
新着
いろいろ現代的示唆に富んだ好著。なぜこの本が図書館でもAmazonでも読書メーターほとんどスルーされているのかまったくわからない。読んでよかった。
0255文字
kentake
新着
人工知能の活用については、自動運転の実用化が、トラックのドライバー不足を解決するなど、社会の各方面で大きな期待が寄せられている。 本書では、このような人工知能の下す判断について、倫理的側面に着目し、人工知能を考える際に注意すべき点について著者の考えが示されている。 人工知能は一見すると人間より賢く考えて判断を下しているように見えても、過去に蓄積されたデータに基づいて得られた結果を示すのみであり、人間の判断と同様の倫理観を求めるのは誤りであるという。それを扱う人間の倫理観が大切という結論には少しホッとした。
0255文字
けん
新着
AIに心が宿ると思います。
0255文字
miura
新着
AIはあくまでプログラム(疑似人格)であり、設計者・学習用のデータの与え方に偏りが現れる以上、公平公正にはならない。それはその通りなんだけども、人間の人格もブラックボックスである以上、疑似人格と人格の境界は難しいし、違いはあるのだろうかと思う。 シンギュラリティを科学的ではないとしてバッサリ切っているのは気持ちが良い。ただ、こういうものはできるかどうか分からないけど、きっとできるっていうビジョンを示すことに価値があるようにも思う。ケネディ大統領が月面着陸をすると表明したように。
0255文字
甲楽城
新着
AIが「人格」を持ち責任を取れる主体となるか、について、否定的に扱うとともに、AI社会にどのような社会規範が求められるかを述べています。第1部は理論編、第2部は応用編となっており、個人的には第1部は興味を引く内容が多かったのですが、第2部はまだまだ実感がわかないせいか、それほどでもありませんでした。後で再読すれば、また違った感想になるかもしれません。AIに「人格」が備わることは根本的にあり得ないとしつつ、人々がAIの中に「人格らしきもの」を感じてしまう理由についても触れられていたのが印象深いです。
甲楽城

「生物と機械の本質的相違として、「情報をうけとって客観的世界を認知している」のではなく、「(生存をつづけられるように)情報を解釈して主観的世界を構成している」」、そして「機械の情報処理は人間の観察行動とは本質的に異なる」というネオ・サイバネティクスの考え方には、コンピュータは論理計算機で、人間には論理で割り切れないものがあるという、自分の考え方を補強してくれます。シャノン情報理論の拡大解釈の話もしかり。神の前では人間も無機質な情報の集まり、というのは東洋の人間には受け入れるのは難しいですね。

09/29 21:34
甲楽城

「心は閉鎖系であり、 他者の心に宿る道徳観とのあいだには決定的な壁があるが、それを乗り越える相互作用こそが共感」という話は、なるほどと思いつつ、発達障害な自分にはなかなか難しい。というか共感性が乏しいというところに、社会性の問題があるのでしょうが。また、AIシステムの保守維持は困難、については、そう言えば保守のことまで今まで考えなかったな、と目から鱗が落ちました。あと第2部ですが、デカルトの自動人形のエピソードが興味深かったです。

09/29 21:35
3件のコメントを全て見る
0255文字
izw
新着
西垣先生の新刊で、さっそく購入した。第3次AIブームが進む中で、AIロボットが自立型機械と見なされ、道徳的主体、疑似人格として扱い責任を負わせることが可能か、という問題を考えている。西垣先生は、理論的に自立性をもたない他律系であり、生物とは異なり、自らその作動ルールを内部で作り上げているわけではない、という大原則を基にしているので、道徳的な主体とは無縁であり、AIに自由意志や責任を帰するのは全くの誤りというのが結論。現状はその通りなので、その原則にのっとった倫理体系は非常にすっきりして納得感がある。
0255文字
全28件中 1-28 件を表示
AI倫理-人工知能は「責任」をとれるのか (中公新書ラクレ (667))評価70感想・レビュー28