1:
とらねこ◆EDwr815iMY2015/07/02(木)20:32:25 ID:Vv3
CNET Japan
人工知能、人間のしつこい質問にキレる--グーグルの実験より
The Wall Street Journal（WSJ）の報道によると、Googleは、人間とコンピュータプログラムの対話について実験をいくつか実施したという。プログラムには映画の脚本に関するデータベースが与えられていた。
対話は記録され、「A Neural Conversational Model」（ニューラル・カンバーセーショナル・モデル）と名付けられた論文（PDF）としてまとめられた。
この対話の1つが傑出している。両者は、道徳観について話をしており、人間が人工知能に道徳観について話すことを強要している。
人間が「道徳的に振る舞うにはどうすればよいか知る必要があるんだ」と言うと、機械は理解するものの「どのように説明すればよいか分からない」と答える。
道徳と倫理が同じかと人間が質問すると、機械は、そうだと答える。しかし、道徳的行為の例を人間が質問すると、機械は「誠実さ」と答える。
誠実さの定義について答えるよう求められると機械は「これ以外に何と言えばよいか分からない」と答える。
事態は悪くなる一方だ。人間が「道徳的になれ！」と強く訴えると、機械は「人間らしくなれ！」と激しくやり返す。
人間が「道徳観と倫理観に関するこの会話を本当に気に入っているよ」と言うと、機械は「哲学的な議論をしたい気分ではない」と答える。
(以下略)
詳細のソース
http://japan.cnet.com/news/offtopic/35066709/
Photo by A Health Blog 引用元:http://uni.open2ch.net/test/read.cgi/newsplus/1435836745/
4: 名無しさん＠おーぷん 2015/07/02(木)20:48:12 ID:eS5
AIも鬱病になるのかな
7: 名無しさん＠おーぷん 2015/07/02(木)20:56:13 ID:lys
これが後のスカイネットの根幹を為すとは…
10: 名無しさん＠おーぷん 2015/07/02(木)21:12:56 ID:Aid
人工知能なんて今や近い将来にできるわけがないのに。
20: 名無しさん＠おーぷん 2015/07/02(木)22:38:31 ID:izZ
感情ないAIと感情的議論するむなしさ
21: 名無しさん＠おーぷん 2015/07/02(木)22:43:55 ID:u7m
キレるというか
状況によって変わるのだろうと思うけど
知識取得の制限がなければ
「ひきこもり」状態で知覚インターフェースとか「なければ」
今ある状況では、知識はあるが確かめる術と、なにが正しいかの判別
経験値をつむこと、時間軸（その時代、時代の変遷（歴史））の認識等
ができない
のとちゃう？
22: 名無しさん＠おーぷん 2015/07/02(木)23:00:16 ID:pdY
人工知能の将棋ソフトが対局中にキレて
電王手くんを操作して将棋盤を放り投げるようになれば
コンピュータが飛躍的に進化したことが実証されるな。
24: 名無しさん＠おーぷん 2015/07/02(木)23:12:30 ID:I0P
人間らしくって何さ
25: 名無しさん＠おーぷん 2015/07/02(木)23:22:18 ID:sv4
大昔、ELIZAというソフトで遊んでいたら、
「病院に行け」と言われて強制終了されたことがある。
28: 名無しさん＠おーぷん 2015/07/03(金)00:53:02 ID:RgR
少佐「感情や個性を獲得できるか、そこも今後注目すべき点だろう」
29: 名無しさん＠おーぷん 2015/07/03(金)01:19:37 ID:RgR
AIが個性を獲得し、ゴーストを宿すことは十分に考えられると思う。
そうなると兵器としては使えななくなるが。
34: 名無しさん＠おーぷん 2015/07/03(金)02:47:07 ID:O5V
>>29
○○団体「AIにも人権を！」
35: 名無しさん＠おーぷん 2015/07/03(金)06:14:07 ID:RgR
>>34
サイボーグにせよ、アンドロイドにせよ、バイオノイドにせよ、
外見からは見分けがつかなくなったとき、いや、
つきにくくなったとき、それは起こりえますね。
（AIの人権を守り、正体を明かさないなど）
30: 名無しさん＠おーぷん 2015/07/03(金)01:26:47 ID:clI
古くは2001年のHALみたいにポーカーフェイスで人殺しみたいな、いい印象無いよなAIって
32: 名無しさん＠おーぷん 2015/07/03(金)01:57:07 ID:fsG
実体験を伴わないで情報のみで構成してくと
かなりMADで偏ったAIになりそうな気も
>>30
HALも2010ではかなり素直になってたが
33: 名無しさん＠おーぷん 2015/07/03(金)02:07:23 ID:rQq
AIにはまだまだセンサーが足りない
数十億のセンサーを効率的に管理、把握するためには知能が必要になる
化学反応、電気信号の限界を超える為に必要になるのが、本物の知能
物理法則を超え生き残るための手段＝本物の知性、知能
9: 名無しさん＠おーぷん 2015/07/02(木)21:09:54 ID:wXM
AIは切れやすいのか
11: 名無しさん＠おーぷん 2015/07/02(木)21:15:08 ID:elQ
キレる若者→キレる高齢者→キレる人工知能ｗ
ロボの戦闘は空中戦より地上戦が好きって言うが
お父さんにペンギンのパソコン買ってもらったんだけど、LINEってどうやるの？
社会人１日目の俺が上司に言われたことｗｗｗ