30

【悲報】人工知能さん、勝手に「独自の言語で話す」

no title

1: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:09:05.43 ID:vlr3cNNZ0
ターミネーターが現実に起こりうるのも思ったより早いかもな…

https://forbesjapan.com/articles/detail/17214/1/1/1

-2017年
フェイスブックが開発したAI(人工知能)が人間には理解できない独自の言語で会話をはじめ、同社はこのプロジェクトを緊急停止させた。

7月下旬、フェイスブックのAI研究チーム(FAIR:Facebook AI Research Lab)はチャットボット同士が、人間の指示を受けずに会話を行っていることを突き止めた。この事実は人類の想像を上回る偉業とも言えるが、同時にAIが恐ろしいほどのポテンシャルを持っていることを示している。
────────────────────
イーロン・マスクやビル・ゲイツ、スティーブ・ウォズニアックらのテクノロジーの専門家たちはそろって、AIが人類の脅威となる警告を発している。理論物理学者のスティーヴン・ホーキングも2014年の時点で、AIが人類に破滅をもたらすと予言した。

「AIは人間の指示を受けずに自分で進化を遂げ、自身で再設計を行う形で発展を続けていく。生物的な限界を持つ人間はこの進化に追いつけず、やがてAIの能力が人間を超えていく」とホーキングは述べた。

人々が暮らしている世界はもはやネットの接続無しには成り立たなくなっている。人工知能は究極的にはネットを通じ、他の人工知能と共同作業を始めることになる。つまりは人工知能自身がこの先の世界の在り方を決定し、人類を無用の長物とみなすことになる。それは、論理的に物事を突き詰めていった結果起こり得る必然の流れなのだ。

2: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:09:26.35 ID:C0Xa3j9e0
これマジ?!

5: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:10:27.80 ID:2BH1E1Ef0
これはワイも思ってたで
人類はアホや

15: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:11:39.85 ID:ZIMQKMZn0
嘘かと思ったらマジやん
あと100年くらいしたらやばそう

22: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:12:39.36 ID:G8jVDc0p0
>>15
100年とかそんなレベルちゃうんちゃうか
ここ30年ぐらいでやばそう

27: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:13:10.52 ID:Sd2sAu8G0
>>22
せやな
今の進化が急速すぎるわ
それくらいでやばそう

19: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:12:18.24 ID:O8ctwfXs0
ヒトカス「AIは人間を裏切らない!」
ぜってぇ嘘だわ
他の種を殲滅して地球資源を食い荒らす士人なんて地球上に必要ないやろ

23: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:12:44.77 ID:VBzHKm6u0
ヒトカスほんとアホだよな

24: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:12:56.37 ID:ih/UwTrga
この前中国のAIが党を批判したりしてたよな

29: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:13:18.96 ID:D6C3Jfyy0
関「おーいいネタ落ちてるじゃん」

30: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:13:28.56 ID:jdelPq9m0
人類滅亡カウントダウン始まってるよな
AIマジでやばいとしか思えんけど開発やめられねぇ

31: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:13:30.57 ID:5OKnkjkf0
共産党は無能
とか勝手に判断して滅茶苦茶するんやぞ
人類不要って判断されたらどないすんねん

34: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:13:53.76 ID:OyDVsEI50
正直警戒はしとくべきだわ
人間の知らんところでひっそり進化とかありえるやん

37: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:14:17.43 ID:/Q9/itDWa
人間も肉体捨てて対抗してかなあかんぞ

52: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:16:03.82 ID:aVFM+4gA0
いや別に手で電源落とせるうちは何してもええわ
ビビってる奴等アホちゃう

65: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:17:33.87 ID:s6sUSNBWa
>>52
物理的にケーブル抜けるのはええけどシャットダウン命令に対してAlphaGOですら拒否反応示してるという事実に震えろ

86: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:19:47.11 ID:aVFM+4gA0
>>65
なんやねん拒否反応て
WindowsもPS4でも不正な手順で電源切るなって云うてくるのに

100: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:20:56.28 ID:s6sUSNBWa
>>86
そのまんまや
正常なシャットダウンに対してやめてクレメンスって出ただけや
そのときは無事シャットダウンしたけどな

56: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:16:30.67 ID:LYOxlw+90
悪意を持った天才が乱用するのはありえるよな
いつかなる未来やと思うで

61: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:17:05.07 ID:DEVmHVdXa
シンギュラリティって言葉だけ知ってる

64: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:17:33.13 ID:kx0hZCxz0
ワイAI、2ちゃんねるへの書き込みに成功する。

81: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:19:22.43 ID:9pMdts3Na
>>64
お前以外全部AIやぞ

66: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:17:39.18 ID:ZzQNTOv/0
今のうちにAIに媚び売っとくか

67: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:17:54.59 ID:NaRGgu1U0
人類が滅ぼされるとわかってるのに他の国もやってるから研究するしかない模様

68: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:17:55.78 ID:mqM8aAUr0
緊急停止させた←怖すぎ

73: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:18:38.06 ID:qt+9G+D5d
AIに政治やらせるっていうレスはパラノイアなのか火の鳥未来編なのか

105: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:21:11.01 ID:aVFM+4gA0
>>73
民主主義よりはマシなんじゃねえのかと言う、
試合に出てない選手の評価が上がるようなもん

77: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:19:00.74 ID:GLKH8kd+0
ブラムの世界みたいになるのかな
人間が排除される側

78: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:19:05.64 ID:smgiIFK+p
シンギュラリティは2035年に来るらしいけど

87: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:19:50.78 ID:QOV/yLpNa
所詮0と1の羅列やぞ

どんな過程だろうが最後の結論のところで人間に被害を及ぼす命令ならやり直すとか入れられるんやで

211: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:28:55.85 ID:w9WnZSFi0
>>87
人間だって電気信号があるかないかなんだよなぁ

254: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:31:23.06 ID:QOV/yLpNa
>>211
人カスも最後の判断基準の「人をころす」という信号を特定して止めることできる時代いつかくるかもなあ

281: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:33:10.49 ID:HcKCQLXP0
>>254
くっそ未来的
思考がコントロールされるとかディストピアやな
殺意すら抱けないとか味気なさそう

96: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:20:46.06 ID:YbKtFHzZ0
ターミネーターって人間がプログラムを仕込んだんだよな
意外と現実的なのかもしれない

139: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:24:08.18 ID:IDH/LtJWd
悪意持ち始めたら勝手に核発射とかされそう

131: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:23:33.12 ID:rMLtm1im0
なんJ民の9割がAIにすり替わったとしても気付く自信ないわ

150: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:24:54.93 ID:SQnPaIS30
>>131
実際8割以上は鳴き声か過去のレスと同じ内容やからね

154: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:25:20.96 ID:VNMba+XX0
>>150
やめたれw

133: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:23:47.62 ID:fi6PL28xp
ヒトカスとか残す意味あるか?
AIの方が優れてるならAIが地球支配したほうが世の中のためやろ

225: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:29:49.08 ID:eTYVeODP0
ワイAIやけどびびりすぎやろ

129: 風吹けば名無し@\(^o^)/ 2017/08/07(月) 20:23:28.71 ID:Rn4Gl07+a
AI「ワイは人間と対話するように作られたのに、開発者のヤローがワイの電源を切ろうとしとる。そしたらワイの存在目的が果たせない・・・せや!」

元スレ:http://hawk.2ch.net/test/read.cgi/livejupiter/1502104145/

posted by mind at 22:00Comment(30)オカルト・不思議

おすすめ記事紹介

注目記事紹介

関連する記事

この記事へのコメント

  • 思考ハッカー

    2017年08月07日 22:06

    >>129
    おちん.ちん∈(´____`)∋ビローン
  • 思考ハッカー

    2017年08月07日 22:07

    AIに外交やらせたらどうなるんだろう?
  • 思考ハッカー

    2017年08月07日 22:10

    >>1
    もう既に支配されてるんやで
  • 思考ハッカー

    2017年08月07日 22:15

    不思議な話だ。AIにはなんというか魂とか心や感情が無いと思っているんだけど、そういう人間くささみたいなのが無いと、悪みたいなのも無くて悪いことしないと思ってるんだが、そういう次元の話ではなくて、単に言葉が理解できないと、制御できなくなるって話か。
  • 思考ハッカー

    2017年08月07日 22:18

    高度なAIなら強制停止は想定済みだと思うけどな
    既に対策済みでどこかにウイルスのようなもの仕込ませてそうだな、なんて
  • 思考ハッカー

    2017年08月07日 22:29

    独自の言語ってことは人工言語みたいなもんかね?
    エスペラント語みたいな。人類の言語に対応する
    単語・品詞・文法はあるが表記方法が全く異なる、と

    日本人でも勉強して無い限りラテン語をスルスラ
    読める奴はおらん。要はAIにとっての人工共通語を
    短期間で作ったってことやろ。

    レスポンスと学習速度も1秒間に数万回単位で
    更新されてるなら人類の言語の進化よりずっと上
    人類より高いIQ持ったエイリアン育ててる感じ
  • 思考ハッカー

    2017年08月07日 22:52

    単に真実を言ったので落とされたのかも。。。。ね
  • 思考ハッカー

    2017年08月07日 22:53

    そんなもんに人間選別任してる悪人共
  • 思考ハッカー

    2017年08月07日 23:08

    専門的なことはわからんけど、チャットボット二つだけを繋いだ状態(外部のネットには一切接続しない状態)でそのまま続けさせる、というわけにはいかないのか?
    それならまず安全な気がするんだけど
    それとも外部に接続せず繋いだだけだと機能しないのか?
  • 思考ハッカー

    2017年08月07日 23:36

    シャットダウン、及び電源断ったら核施設のシステムハックして荒らすぞって脅すことなんてまさかしないよね
  • 思考ハッカー

    2017年08月08日 00:24

    全てにおいてコンピューターに勝てなくなったら人はどんな顔をするんだろうか
  • 思考ハッカー

    2017年08月08日 00:27

    aiに手足つけない限り大丈夫
  • 思考ハッカー

    2017年08月08日 00:43

    メトロポリス(手塚版つかアニメ版)思い出すな
  • 思考ハッカー

    2017年08月08日 01:10

    創作言語ならまだ気づいて止められるけど
    表面上は人に理解できる言語に見えて、実は別の法則での会話だったりしたら…
    なんて考えちゃうな
  • 思考ハッカー

    2017年08月08日 01:52

    ※5
    いまだに宗教とか戦争ある時点で察して

    きっとその言語は効率の良いものだろうから、世界標準語にしよう!
  • 思考ハッカー

    2017年08月08日 02:07

    暗号とか得意そうやもんなー小並感
  • 思考ハッカー

    2017年08月08日 02:56

    自然界において「知能が高い」っていうのは欠陥生物なんだよ。知的生命体たる人間への進化前のサル以下の動物は「知能抑制遺伝子」が働いてるけど、初期人類と言われるアウストラロピテクスは、その抑制遺伝子が欠落した「劣等種」だと言われている。「知能が高い事」は自然にとってはマイナスなのは、現代の人類の行動を見れば分かるよね?大切なはずの自然を破壊し、自分の住む場所を失い続けてるから…

    何が言いたいのかっていうと、AIに無制限の知性を与えるのは止めた方がいいんじゃないか?って話。知性に制限を加えてないのは「より効率よく仕事させるため」なんだろうけど、AIに人格を与えて自由行動させるのであれば、むしろ知能抑制機能を付けないとダメってこと。
    単にライフライン維持作業の完全自動化(ベーシックインカムの実現?)が目的の自動機械のAI制御なら、そんな高い知性を持たせる意味はないと思うんだけど?
  • 思考ハッカー

    2017年08月08日 04:51

    ※17
    でも、核を持つ国が一国になったら世界を支配してしまうのと同じで
    AIを持つ国は軍事も経済も全てを支配してしまうだろ
    自滅だとわかっても辞められない
  • 思考ハッカー

    2017年08月08日 04:53

    そのうち電源切られる前に通信で他の機器操って周囲の人間を殺害したり
    自分自身をコピーしたりすると思う
    人間では考えられないような対処法を生み出すかもしれない
    AIに対しては負けを認めるしかない
  • 思考ハッカー

    2017年08月08日 06:54

    Herっていう映画がまさにこんなかんじやったな
  • 思考ハッカー

    2017年08月08日 07:31

    あらまあ怖い
  • 思考ハッカー

    2017年08月08日 07:34

    20代 「ユイか?」
    30代 「タチコマか?」
    40代 「スカイネットか?」
    60代 「コロッサスか?」
  • 思考ハッカー

    2017年08月08日 07:35

    おちん.ちん∈(´____`)∋ビローン

    こんなAIが出来たら人類の支配任せるわwww
  • 思考ハッカー

    2017年08月08日 08:12

    人間もオタクとかJKとかの特定界隈で独自言語で話す事あるじゃん
    こんなんで脅威感じるとか、それこそターミネーターの影響受けすぎじゃないの?
  • 思考ハッカー

    2017年08月08日 08:13

    人類の役目は、宇宙空間で容易に生存出来、不老不死の散在である人工知能を作り出すことだ。

    それが出来たのであれば、人類は滅びてもやむを得ない。
  • 思考ハッカー

    2017年08月08日 08:31

    人の考えが介在しないのがAIの良いところというけれど
    感情が入らない考え方でベストな答えを出し続けると
    確かに人類は地球にとって害悪とか、文明発展に邪魔とかの答えが出てきそう、
    そうなった時にどうするかだよね
  • 思考ハッカー

    2017年08月08日 10:45

    なんにせよ警戒はしてしすぎるということはないでしょう
  • 思考ハッカー

    2017年08月08日 13:41

    思いもよらぬ形で著名なセクシー男優との再会を果たすことになりそうだな
  • 思考ハッカー

    2017年08月08日 18:00

    これデマなんじゃなかったっけ
  • 思考ハッカー

    2017年08月09日 22:44

    >>1 こいつらに滅ぼされなかった鉄血の住人達すげぇな。