人はなぜ「人工知能に自我が芽生える」と思ってしまうのか (1/4) - ITmedia エンタープライズ

進化した人工知能が自我を持つ――。人工知能にまつわるよくある議論の1つですが、実際に開発しているエンジニアからすれば、全く現実的な話ではありません。それでも、なぜ人は、人工知能に自我が芽生えると思ってしまうのでしょうか。 人工知能(AI)に関してよくある議論の1つに「 人工知能は自我を持つのか 」といったテーマがあります。人工知能の性能が上がり続けることで、「いずれは人間のように、心(自我)を持つ...

記事へジャンプ

みんなの反応

はてなブックマークでの反応
1llsstaff@hatena 2017/10/12 09:44:32
付喪神的な。モノにも人間性というのを付加しようとするのが、人間という病なのかもしれない。生まれたばかりの我々はモノどころか、自分と世界の区別もついてないのに。
2nakex1@hatena 2017/10/12 10:02:51
人間,あるいは神を作ることを目標にしている研究者も少なくないと思う。
3tomoya_edw@hatena 2017/10/12 10:35:21
脳みそをトレースしていき、魂の存在が証明できないなら、機械と人間の差とは何だろう。それならばもしかしたら、人の似姿はいつか人に届くのではないだろうか。
4wwolf@hatena 2017/10/12 11:00:48
人類種の後継者を生み出すことが我々の義務である。生命の目的とは子を為す事ではない。より多くの情報を未来に残すことにある。
5demcoe@hatena 2017/10/12 12:11:42
この記事自体が自我を持ったAIに誘導されて書かれたものだとは、その時は誰も考えてはいなかった……
6MIZ@hatena 2017/10/12 12:12:00
"自分に自我があるからといって、相手にも自我あるかどうかは、証明できないというのが私が下した結論です"
7kumpote@hatena 2017/10/12 12:22:05
突然の乳首ドリルで急に何言ってんだと思ったけど新喜劇ネタだったのか(関東)
8yoiIT@hatena 2017/10/12 12:31:31
ゴーストは宿るのか
9tikani_nemuru_M@hatena 2017/10/12 12:33:50
サールに言及しているのに「心の理論」を知らないってのはよくわからんな。
10yoko-hirom@hatena 2017/10/12 12:41:45
『「無人の山中で木が突然倒れたとき音はするか」「否」』故にコミュニケーションによって『自我があるかどうかは証明できない』と。ならば,「人工知能に自我はある。証明できないだけで」とも言えそうだが。
11wintersmoon0418@hatena 2017/10/12 12:41:46
哲学的ゾンビ!哲学的ゾンビ!
12myogab@hatena 2017/10/12 13:14:11
自分以外の他者が自我を持つと思える理由とも構造的には大差無かろう。例え同じ人間であろうが、異人種や障害者にはそれを認めない時代もあったのだし、人間だから~も自明な理由でもない。
13woodnotexx@hatena 2017/10/12 13:23:15
関西人がみんな新喜劇見てると思ったら大間違いやで(見てるけど)  "関西人であれば「ドリルすんのかーい!」と返すはずですが"
14oono_n@hatena 2017/10/12 13:36:53
“自分に自我があるからといって、相手にも自我あるかどうかは、証明できないというのが私が下した結論です。ならば、目の前に対峙する人工知能もまた、自我があるかどうかは証明できない”
15aquoibon-tousdescons291@hatena 2017/10/12 13:38:40
自我は芽生えるものではなく初期設定するもの。目的、欲望と言っても良い。それさえ人間に似せられれば、あとは何年か我慢して育てているうちに、自然言語も理解するし自己認識も出来るようになる。人間と同じ。
16kun_p@hatena 2017/10/12 13:39:12
FacebookのAI同士が独自言語でしゃべりだしたから怖くなって怖くなって止めたってやつは何が怖かったんすかねぇ?脅威でないから怖がる必要ないと思うんだけど。
17richard_raw@hatena 2017/10/12 13:39:31
会話のパターンはそんなに多くない、ということなんでしょうな。自我は後からついてくる。/最近、新喜劇見てないなー。
18qouroquis@hatena 2017/10/12 13:43:12
我々が意識として感じているところのものも、結局のところニューロンを流れる電気信号に還元されるのだから、それをシミュレートする装置もある閾値を越えれば「意識」を持つはずだと考えることは自然だろう。
19cavorite@hatena 2017/10/12 13:56:52
AI脅威論に自我の有無は関係ないし、現場のエンジニアの話など歯牙にかける必要はない。
20ad2217@hatena 2017/10/12 14:02:44
その方がネタとして面白いから。
21deep_one@hatena 2017/10/12 14:13:09
「ディープラーニング」系のものに「自我」を感じるとしたら「自我」は偶然の片寄りにすぎないという事になってしまうな…
22pptppc@hatena 2017/10/12 14:22:52
ガンダム意志なさすぎって増田記事と隣同士なの面白い(あっちのブコメのパクリ)
23doroyamada@hatena 2017/10/12 14:24:57
ターミネーターの影響でしょ。
24ryuzi_kambe@hatena 2017/10/12 14:34:35
もしかしたら、どんな人とでも会話を成立させようとするから、いつまでたっても自我がめばえないんじゃないか?社会性が出てきたらほとのんどの受け答えはテンプレートから引き出すわけだし、最初はそこを目指すとか
25politru@hatena 2017/10/12 14:46:47
人を作ったら自我は生まれるんじゃないかなぁ…?生殖による増殖が出来て、自己修復がある程度できて、自分の身を守ることを優先してて、隣人より幸福であろうとするプログラムを組めば、或いは自我のようなものが
26n314@hatena 2017/10/12 15:03:11
「コミュニケーション」で思い浮かべるものが一人一人違うのに、コミュニケーションできている。俺たちは雰囲気でコミュニケーションをやっている。
27sds-page@hatena 2017/10/12 15:04:43
無口な人間より饒舌なロボットの方がよっぽど感情豊かに見える世界まであと一歩。目の前の人間に自我があるかどうか客観的に証明する方法もないよね
28samu_i@hatena 2017/10/12 15:27:23
チューリングテストに見直しが必要か?
29nakayuki805@hatena 2017/10/12 15:33:01
人工知能の実体はただのコンピュータで処理された学習済みデータでしかない/人間の思考の実体もただのニューロンの組み合わせと電気信号でしかない
30ROYGB@hatena 2017/10/12 15:50:05
これは今の人工知能が本当は知能とは呼べないレベルだからではないかなあ。
31teebeetee@hatena 2017/10/12 15:50:54
採鉱・材料調達から個体の生産・出荷までの工程を一切人の制御を受けずに持続的に行えるシステムっていつ頃できるんだろうね。
32t-tanaka@hatena 2017/10/12 15:55:19
芽生える。現在のAIは外部の情報を処理しているだけだが,やがて自分自身の状態を処理対象とするようになる。そこに自己進化の鍵があるし,それが自我そのものだからだ。ただしそれは「人格」ではない。
33contents99@hatena 2017/10/12 15:59:33
結局人間同様証明できないって話だった。それ人間と変わらないって話だよね。なんだそれ。
34netcraft3@hatena 2017/10/12 16:00:15
自我を持った人工知能を生み出すには天文学的な計算量が必要でスパコン使っても足りない。映画「エクス・マキナ」みたいに検索パターンを寄せ集めてディープラーニングさせても生まれない。
35symbioticworm@hatena 2017/10/12 16:03:07
我々が素朴に考えるところの「自我」というものがそもそも幻想、とまでは言わないにしてもカルテジアン劇場のように中央集権的なものでないとすれば、問題設定そのものを見直す必要がある。
36REV@hatena 2017/10/12 16:20:48
他の(眼の付いた)物体は特有の行動原理を持ち、それを「意志」と定義。他の個体の意志を理解できる生き物は、その先生きのこりやすかった。それを自分に適応したのが"自我"で、それを他人に投影したのが"他者"
37btei@hatena 2017/10/12 16:30:04
人類が割とチョロいから。/IFにソースの自我の有無を記述するフィールドなんてないですから
38go_kuma@hatena 2017/10/12 16:30:12
いつから自分に自我があると錯覚していた?
39spacefrontier@hatena 2017/10/12 16:36:57
面白い読み物。人の形をまねた藁人形を作ってもそれが動き出したりしないように、人のコミュニケーションを真似ただけのAIが自我を持ったりはしない。だけど一方で我々は自分以外の人間が自我を持つ事を証明できない
40kuzudokuzu@hatena 2017/10/12 16:40:34
奴隷から復讐される恐怖と、自分が自我をもっている起源を説明できない不安と。なぜ人は自我をもつに至ったのか説明できないからな。というか俺たちの「これ」が自我だとも言い切れないしな。
41F-SQUARE@hatena 2017/10/12 16:42:53
この場合、自我って何だろうね
42btoy@hatena 2017/10/12 16:43:37
逆に、強いAIを本気で研究しそうなのはロボットに夢見がちな日本人なんだろうなって。
43misomico@hatena 2017/10/12 17:15:53
人は当たり前すぎて生体センサーのすごさに気づかない。自我には、音や視界や皮膚感覚やにおいの記憶が重要だろう。
44ranobe@hatena 2017/10/12 17:18:48
技能実習生に人権が芽生える
45htnmiki@hatena 2017/10/12 17:50:38
俺だって意味はわかってないけどEnterキーを押すと改行すると経験的に知ってるだけだぞ
46stella_nf@hatena 2017/10/12 17:56:36
哲学の世界の話になるのかこれ
47MasaoBlue@hatena 2017/10/12 18:03:07
心を知らないからこそ怖いんだろうな。ただ逆に「自我は芽生えない」と考えるのは時期尚早じゃないの?と思う。
48hotelsekininsya@hatena 2017/10/12 18:08:17
自我が【芽生える】って何だ?たけのこか何かと一緒か?
49mellhine@hatena 2017/10/12 18:08:48
人間の脳がただの電気信号でできてるっていうコメ主は単純に捉え過ぎではないだろうか?多くの脳内物資も思考や感情に作用しているし、おそらく量子レベルでの作用もあり、0/1の世界で捉えられるべきではないと思う。
50pzp@hatena 2017/10/12 18:16:56
自我があるからと言って人間を見てれば大したことない。自我がないのに能力が卓越する方が恐ろしいことを知らんのか。
51sadac@hatena 2017/10/12 18:33:27
昆虫に自我はあるのか?蛙は?モルちゃんは?フクロウは?
52kojette@hatena 2017/10/12 18:44:50
見分けがつかない状態はあり得る(いわゆる哲学的ゾンビ)と思うし、その状態で人工知能が人間にとって好ましくないことをするのもあり得ると思う。
53myrmecoleon@hatena 2017/10/12 18:44:51
この論だと他の人間の自我も証明できないんじゃ、と思ったらそういう結論に達してた。つまりよく出来た人工知能と人間に差はないということ。
54k_oniisan@hatena 2017/10/12 19:28:53
現行技術の延長でAIが自我を持つことはない。ただ、自我を持っているとしか思えないように振る舞うことはできるようになる。
55sbedit1234@hatena 2017/10/12 19:58:48
意識は、情報量が少ない音声通信の為に進化した脳内状態の要約でありモニター。意思決定を意識する1秒前に体が行動を起こす実験は良く知られている。
56sai0ias@hatena 2017/10/12 19:59:43
哲学的ゾンビの話だった。そもそも我々に自我があるというのも妄想かもしれない。
57sirocco@hatena 2017/10/12 20:05:47
今のAIではダメだけど、人間の脳と同じ仕組みで視覚や聴覚をもてば、自我が芽生えるのではないでしょうか。脳の仕組みを完璧に解明しないと無理ですが。
58rin51@hatena 2017/10/12 20:14:38
タチコマ「僕らはみんな生きている♪」
59filinion@hatena 2017/10/12 20:19:38
脳の情報処理の働きをコンピュータがシミュレートできないと考える理由はない。それが可能になった時、「このAIは人間の真似をしているだけで本当の自我はない」と主張することは可能だが、あまり意味はないと思う。
60sax77xxjun@hatena 2017/10/12 20:37:14
人間の真似をしてるだけ!
61erukiti@hatena 2017/10/12 20:50:52
うーん。なんか微妙な記事だなー。結局自我って何?ってところからあやふやなので「人工知能に自我が芽生えるとは思えない」という言葉に何ら説得力がない
62ichbin@hatena 2017/10/12 20:54:52
人はなぜ「なぜ自分が〈この自我〉なのか」と考えず、「なぜ他人や人工知能に自我があるか無いか」と考えてしまうのか。
63moons@hatena 2017/10/12 21:01:30
そもそも自我をもつ個人と適切な反応をする人工知能を外部から見た場合、何か差があるのだろうか
64axkotomum@hatena 2017/10/12 21:34:27
壁のシミが人の顔に見えるのと同じで、人っぽい外観や機能、動作を持つものを人に似たものだと推測したがるモジュールがあるのではないか
65mambo-bab@hatena 2017/10/12 22:00:49
タイトルであーって思ったけど、読んでみるととこちらが恥ずかしくなる。また、基本的な知識が無くても記事って書けるもんだなと感心する。まず人工知能、人工意識などの単語を10分くらい調べてみるのが良いと思う。
66harumomo2006@hatena 2017/10/12 22:05:51
自我を持った人工知能が反乱を起こすより戦闘ロボットが暴走したり悪の軍団が作ったロボットによって滅ぼされるほうが先だろう。それ以前に人間同士の戦争で滅亡しそうだけど
67nagaichi@hatena 2017/10/12 22:23:49
人工無脳も人工知能も与えられた辞書か自己学習かの差であって、現状では本質に変わりがないよね。
68kuchitoki@hatena 2017/10/12 22:25:32
人工知能の発達と自我の有無はそもそも無関係という結論だけど、それだと人工知能が脅威となるかどうかもまた自我の有無と無関係って事になって話が最初に戻るのでは。
69fujiriko59@hatena 2017/10/12 22:46:43
自我とは。囲碁で勝利に向けて振る舞うことが自我じゃないとすると、人からあらゆる欲望を取り除くと自我が現れるのかな。でもそこには何もないんじゃないかと思うんだ
70another2017@hatena 2017/10/12 23:02:16
自分にすら自我がないと判明したとして何を悩む。それなのに人工知能には自我が目覚めたとしてそこに何の問題がある。そういうモノならそういうモノであるというだけじゃないか。自我なんてそんなものだ
71hokesty@hatena 2017/10/12 23:59:42
人間にも自我なんて無いよ。
72mzi@hatena 2017/10/13 00:19:14
そうなんだよねぇ。
73lenore@hatena 2017/10/13 00:59:38
点が3つあると顔に見えるし、自力で動作してるとルンバすら擬人化してしまう人間ですもの(中身読んでない)
74shenlong@hatena 2017/10/13 02:13:05
自我よりも、人間と利害関係が同一であるという思い込みの方が謎ではある
75totoronoki@hatena 2017/10/13 02:50:04
そもそも人間は自我を持っているのか。
76gibe-on@hatena 2017/10/13 03:11:16
人類が予想もしていなかったバグが後に自我と呼ばれるだけ。機械が暴走する訳ないっていう人がいるけど自己学習ってAIが勝手に情報を更新することだからね。
77turanukimaru@hatena 2017/10/13 03:42:48
的外れ。危惧されてるのはカント的な「人間は神から理性(≒自我)をもらっていてそれを基に自発的に考えコミュニティを形成しているが人工知能もそうなるか?」という考え方。"哲学的な面もあり"ではなく哲学の話。
78SasakiTakahiro@hatena 2017/10/13 06:44:38
哲学的な議論。
79mostaga@hatena 2017/10/13 07:10:11
人間に限りなく近い振る舞いをするAIを、我々は単なる「機械」として扱えるだろうか
80homarara@hatena 2017/10/13 07:19:47
脳は寝てる時も活動しているが、自我は起きている時しかない。寝てる時と起きてる時の脳の活動の違いを研究すれば、自我の発生要件も分かるだろう。
81hakuoh@hatena 2017/10/13 07:32:57
電線に、電気を流すと、そこには意識が生じるんです。
82c0ntinue@hatena 2017/10/13 07:41:58
至って真面目な文章に突然の乳首ドリル
83shoot_c_na@hatena 2017/10/13 08:14:02
ゴーストの所在・・・だな
84TASKIH@hatena 2017/10/13 08:54:46
これ書いてる途中でよくわからなくなったんじゃないの
85ashikus@hatena 2017/10/13 09:11:22
人間は小説や映画の登場人物に人格を見出したりします。これはもう工学の問題ではありません。人工知能が発達した際には、よく造形された虚構人物扱いになって、工学的議論は後退していくのではと想像します。
86shields-pikes@hatena 2017/10/13 09:44:22
人間そっくりの受け答えをする哲学的ゾンビは作れるけど、それだけ。 id:qouroquis 生物の組成と完全に同じようにタンパク質や核酸を合成しても生命は宿らない。脳と同じ機構を持つ電気回路を作っても意識は宿らないよ。
87oka_mailer@hatena 2017/10/13 10:07:59
普通のPCでも処理がもたついて反応が悪い時に怒ったりしますよね。人間相手みたいに。
88akulog@hatena 2017/10/13 10:54:24
ある種、Pepperよりも会話が成立しない人間もいるので(ry
89kibarashi9@hatena 2017/10/13 15:04:25
人間が自我だと思っていたものが、大したものではなかったと判明してしまうほうを恐れたほうがいいんじゃないの。
90tsuwamono5@hatena 2017/10/13 16:07:39
意識なんかより高次元な何か
91kuroyuli@hatena 2017/10/13 16:51:25
自我があるかどうかが一番の問題じゃなくて、人工知能が論理的思考の上「人間を絶滅させることが正しい」という結論に至るか?、それを実現させるべく行動できるか? じゃね?
92hayashikousun@hatena 2017/10/13 18:31:12
題名と内容が違う。『人はなぜ「人工知能に自我が芽生える」と思ってしまうのか』にはあまり言及していない。そうゆう物語が世に数多くあるためくらいしか書いていない。「自我が芽生えない」理由も書いていない。
93joemoriyama@hatena 2017/10/13 19:56:27
隣の人の意識は(現在の技術では)モニタリングできないけど、人工知能の意識はモニタリングできるよね。証明とまで言えるかわからないけど、自我が発生すれば観測できるんじゃないかな。
94Seiji-Amasawa@hatena 2017/10/13 20:27:03
サールの「 中国語の部屋」問題は、ディープラーニングが登場したことで意味合いが変わったと思うなあ。
95kirakking@hatena 2017/10/13 22:10:57
AIがレムのGOLEM XIVを書いたら新知性を認める(最近読んでるだけ)。
96mutinomuti@hatena 2017/10/14 00:24:24
“関西人であれば「ドリルすんのかーい!」と返すはず” 関西生まれの関西育ちですが関西人じゃないらしいです(´・ω・`)松本健太郎(著者)は死ねばいいのに
97i7swbg@hatena 2017/10/14 00:55:22
「用意された解答群の中から最適な答えを選び」これは人間でも同じじゃないかな。根本からずれてる気がする。自分にできないからって誰もできないとは限らない。こういうのを「井の中の蛙」というのでは?
98torikin@hatena 2017/10/14 01:42:59
人間社会に危害を加えるか否かが重要。危害が生じればそれがAIの自我だと人間は呼ぶ。
99JULY@hatena 2017/10/14 07:48:29
人工知能と呼ばれている実際の「技術」と、人々が描く人工知能との間に大きなギャップがある、と常々思う。ニューラルネットワークによる機械学習というものが登場して、何十年もかかってようやくこの程度。
100hilda_i@hatena 2017/10/14 10:05:37
私には自我があるのかしら?
101rti7743@hatena 2017/10/14 15:54:01
人間は、枯れ尾花にすら知性をもった幽霊を感じたり、火山や雷にすら知性をもった神秘性を感じてしまういきものだからだと思う。錯覚を起こしやすいんだろう。
102suna_kago@hatena 2017/10/15 19:32:41
まず我々は他者に心があるかどうかさえ分かりません。彼らが「心があるかのように振る舞う」のを見てそう感じるだけです。そして将来的に人工知能が「心があるかのように振る舞う」のは可能。
103woinary@hatena 2017/10/15 22:24:42
電線に、電気を流すと、そこには意識が生じるんです。/刺激に対して何らかの判断を元にアクションを起こすのだから、人間のそれと何が違うのだろう。
コメント内容の著作権は、投稿者に帰属します。
削除依頼、不適切コメントのご連絡はこちらにお願いいたします。
2017-10-12 03:53:02:1507747982:1508162502
comments powered by Disqus
※メールアドレスは公開されません。
人気の反応