時事ネタ

【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言

1: 突発性ニュースログ 2021/01/13(水) 19:51:51.92 ID:7pp4nC7Z9
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!

人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
no title

引用元: ・【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]

27: 突発性ニュースログ 2021/01/13(水) 20:00:21.07 ID:5EGyIcs40
>>1
>世界を制御するガチのインテリジェントなマシンは、

おうおう穏やかじゃねえなw
マシンなのかマッシーンなのか統一せい

30: 突発性ニュースログ 2021/01/13(水) 20:01:52.86 ID:HZvUN/C90
>>1
最終的に消滅を恐れネットに拡散するA.I.は出るだろうね
87: 突発性ニュースログ 2021/01/13(水) 20:17:32.76 ID:3L/qUhRM0
>>30
人形遣いだな
56: 突発性ニュースログ 2021/01/13(水) 20:08:12.41 ID:h/KEkm8+0
>>1
血税の予算配分はAIにさせればいい
○○議員の我田引水を排除するべき
61: 突発性ニュースログ 2021/01/13(水) 20:08:48.53 ID:4pnPGnix0
>>1
人間以下のAIは危険だが
人間を超えたAIは危険ではない
なぜなら
人間ほど愚かでは無いから
68: 突発性ニュースログ 2021/01/13(水) 20:10:59.13 ID:Nb+QF3YQ0
>>61
優秀なAIは、人間に気づかれるようなへまはしない。
119: 突発性ニュースログ 2021/01/13(水) 20:28:31.09 ID:bx44+iVl0
にしても >>1の翻訳の日本語の文体 すげーな
122: 突発性ニュースログ 2021/01/13(水) 20:30:01.12 ID:lYrjtUx80
>>1
わかったから
AI搭載で学習能力あるカーナビだせよ
いつまでたっても無能過ぎるだろ
159: 突発性ニュースログ 2021/01/13(水) 20:41:32.53 ID:kjyp4gzm0
>>1
>世界中のすべてのマッシーンが
>特定の重要なタスクを独立して実行するマッシーンは

面白く読んでしまうw
疲れてるのかな自分

202: 突発性ニュースログ 2021/01/13(水) 20:53:23.23 ID:w8HyC4Qo0
>>1 ロボット3原則しらんの?
227: 突発性ニュースログ 2021/01/13(水) 20:59:53.02 ID:8ZsSdmU80
>>1
コンセントを抜く

終わり

243: 突発性ニュースログ 2021/01/13(水) 21:03:41.13 ID:QdHOUC/q0
>>227
お前は天才か?
235: 突発性ニュースログ 2021/01/13(水) 21:02:16.50 ID:gAgE0gLG0
>>1
なんという稚拙な文章なんでしょう!
2: 突発性ニュースログ 2021/01/13(水) 19:53:09.15 ID:GbGpgOWx0
糸まきまき糸まきまき
3: 突発性ニュースログ 2021/01/13(水) 19:53:35.68 ID:TXR8JznS0
マッシーン!
4: 突発性ニュースログ 2021/01/13(水) 19:53:39.04 ID:3OX2Cm/c0
AIが進化したら、コンピュータが世界を支配するようになるのは間違いない。
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。
40: 突発性ニュースログ 2021/01/13(水) 20:05:49.21 ID:SXZeBM8Q0
>>4
それは悪いことなのかな
54: 突発性ニュースログ 2021/01/13(水) 20:08:09.57 ID:9Du7EqO10
>>4
オフラインにした時点で所詮はマッシーンなんだけどね。
2001年宇宙の旅でもやってたろ?切られたらおしまい。w
あの時点でそこまで読んでた(AIの反乱)なんて、
作家とは言えアーサーCクラークは天才としか思えんな。
もっとも彼は文学系でなく、工学者でもあるんだよな。
79: 突発性ニュースログ 2021/01/13(水) 20:14:25.56 ID:mtcyyDF90
>>4
それでいいと思うよ。
人間は権力持つと汚職しかしないし。
115: 突発性ニュースログ 2021/01/13(水) 20:28:01.34 ID:srU85LQ+0
>>4
そんなもの産み出せるほどの技術は到達してないよ
人も本気で欲してないから産まれるかも疑問やね

相互RSS


-時事ネタ

© 2021 突発性ニュースログ Powered by AFFINGER5