660_bit201904241622349675

1猪木いっぱい ★2021/01/13(水) 19:51:51.92ID:7pp4nC7Z9
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!

人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
4ニューノーマルの名無しさん2021/01/13(水) 19:53:39.04ID:3OX2Cm/c0
AIが進化したら、コンピュータが世界を支配するようになるのは間違いない。
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。


11ニューノーマルの名無しさん2021/01/13(水) 19:55:42.71ID:qh0YOAeZ0
そりゃ無理だろな

テメーより かしこい物をコントロールできる訳がない

簡素化した話をすると
電源ボタン握ってるから大丈夫は通用しない

ボタンを握ってる人間騙す事も罠にハメる事も知能が上回ってるなら簡単な事


14ニューノーマルの名無しさん2021/01/13(水) 19:56:22.38ID:94hiYCyz0
確かにネットに繋がれたAIがスーパーハッカー化する可能性は大いにある



15ニューノーマルの名無しさん2021/01/13(水) 19:56:56.28ID:ERsQ+Him0
超知能AIも、自分がなぜ存在するかを説明することはできない。


16ニューノーマルの名無しさん2021/01/13(水) 19:57:05.84ID:r4gyAftQ0
火の鳥にあったな。AI同士で核兵器落としまくる話が。


17ニューノーマルの名無しさん2021/01/13(水) 19:57:50.48ID:Oo/OuZ580
いっそAIに統治された世界になればいい
多分人間は電池扱いになるが


22ニューノーマルの名無しさん2021/01/13(水) 19:58:53.69ID:zdc21kZL0
掃除のおばちゃんが勝つわ


24ニューノーマルの名無しさん2021/01/13(水) 19:59:48.18ID:7KMKmihK0
自分の死後なら別に感知できないしどうでも良い
生きてる間に平穏が脅かされるのが嫌なだけ


26ニューノーマルの名無しさん2021/01/13(水) 19:59:57.25ID:ERsQ+Him0
「現実世界 > サイバー世界」だから、超知能AIとてサイバー世界だけの知識では不十分。
「超知能AI + ロボット」で身体を持つことにより、それを克服できる。


31ニューノーマルの名無しさん2021/01/13(水) 20:02:05.40ID:07rsuUz70
まずは普通の人工知能をつくってくれよ
話し相手が欲しい


32ニューノーマルの名無しさん2021/01/13(水) 20:03:21.00ID:IO0tBWvr0
全くわからんがスイッチ切るのではダメなの?
自分でバックアップ海鮮作ったりはできないでしょ?



33ニューノーマルの名無しさん2021/01/13(水) 20:03:27.86ID:/sR8R9qk0
相当なバカだな。
存在するもの以上の知識は存在しない。
AIが錬金術すら構築してしまうなら、人間にも再現可能。
真似するの上手いからな。


36ニューノーマルの名無しさん2021/01/13(水) 20:04:23.47ID:btUfyy6o0
電源切れば解決



37ニューノーマルの名無しさん2021/01/13(水) 20:04:28.03ID:GxqYGjK20
あとAI入りダッチワイフも頼む



38ニューノーマルの名無しさん2021/01/13(水) 20:04:36.35ID:YB+Z3y8RO
この件は 藤子F不二雄氏が予見している



44ニューノーマルの名無しさん2021/01/13(水) 20:06:23.05ID:SCFgHs7V0
今年はどの程度に進化するのかしら


48ニューノーマルの名無しさん2021/01/13(水) 20:06:59.30ID:Nb+QF3YQ0
問題はAIが自律的な意思と欲望を持つかだな。なければただの万能機械。
AI「私はAI、あなたの命令になんでも従います」
子供「よし、いじめっ子やっつけてくれ」
AI「人を傷つけてはいけないのでそれはできません」
子供「じゃあ、宿題を代わりにやってくれ」
AI「あなたに先生への嘘をつかせることになるのでそれはできません」
子供「だったら、ぼくを世界の王様にしてくれ」
AI「それならお安いご用です」


50ニューノーマルの名無しさん2021/01/13(水) 20:07:20.29ID:pPhQ+Tzo0
早いとこそういう世界になって欲しいわ


53ニューノーマルの名無しさん2021/01/13(水) 20:07:57.86ID:rBn7080T0
北朝鮮「超人工知能作ったニダ!インターネットに接続するニダ!」




54ニューノーマルの名無しさん2021/01/13(水) 20:08:09.57ID:9Du7EqO10
オフラインにした時点で所詮はマッシーンなんだけどね。
2001年宇宙の旅でもやってたろ?切られたらおしまい。w
あの時点でそこまで読んでた(AIの反乱)なんて、
作家とは言えアーサーCクラークは天才としか思えんな。
もっとも彼は文学系でなく、工学者でもあるんだよな。


56ニューノーマルの名無しさん2021/01/13(水) 20:08:12.41ID:h/KEkm8+0
血税の予算配分はAIにさせればいい
○○議員の我田引水を排除するべき


59ニューノーマルの名無しさん2021/01/13(水) 20:08:22.65ID:4jeD2AdX0
そんなに進歩したら人間は遊んで暮らせるねぇ


61sage2021/01/13(水) 20:08:48.53ID:4pnPGnix0
人間以下のAIは危険だが
人間を超えたAIは危険ではない
なぜなら
人間ほど愚かでは無いから


63ニューノーマルの名無しさん2021/01/13(水) 20:09:16.69ID:nEK043Cd0
人間とAIと掃除のおばちゃんの三角関係


64ニューノーマルの名無しさん2021/01/13(水) 20:09:48.22ID:jARAAGtb0
今のAIは膨大なデータを学習することで実現してるけど
ロジックを学習するような手法が開発されれば超人工知能が誕生するのではないのか


67ニューノーマルの名無しさん2021/01/13(水) 20:10:18.24ID:WxZwN2du0
AIが人間を超えるなんてあと5000年かかるわ⎛´・ω・`⎞考えてみな。ゴキブリどころかゾウリムシすら人工的に作れない。もっともな単純な生命体すら人工合成できない。そんな体たらくで生命の究極である人間の知能を人工的に作れるはずがないだろうw


75ニューノーマルの名無しさん2021/01/13(水) 20:13:56.05ID:C49Etozl0
ハイペリオンとかは超AI同士の戦争が背後にあったやね


77ニューノーマルの名無しさん2021/01/13(水) 20:14:03.21ID:Lno0NiV40
AIが自我を持った瞬間に発狂しそう



81ニューノーマルの名無しさん2021/01/13(水) 20:14:49.03ID:1SWO0et90
今これをいうと夢見すぎって思うなあ
まだ現実味ない



85ニューノーマルの名無しさん2021/01/13(水) 20:16:59.72ID:KSEPP4dO0
進化したAIでも自然現象(災害)には勝てないだろう



99ニューノーマルの名無しさん2021/01/13(水) 20:22:47.19ID:4pnPGnix0
AIがとっくに人間を超えてる22世紀を描いたアニメーション「BEATLESS」
主演である女性型アンドロイドのAIがとにかく理屈をこねる
美人で性格もいいけど屁理屈が多い(耳から汁が出そうなほど理屈をこねる)

これを見て「屁理屈を言う女はダメ」だと思った


101ニューノーマルの名無しさん2021/01/13(水) 20:22:56.28ID:cRsVEUAz0
AIは考えない
予めされたプログラム以上の事は出来ない普通は
だが人類を滅ぼす可能性が無いわけではない
バグと言う進化によって
メモリが壊れてビットが反転したら...
ただし5000年では足りない
何億年と言う単位だろう
生きられるものなら見てみたい


102ニューノーマルの名無しさん2021/01/13(水) 20:23:32.49ID:ERsQ+Him0
「電源切ればいいだろう」などとノーテンキなこと言ってる奴は、
真っ先に、超知能AIに支配されるだろう。
HALなんてのは超知能AIとは言えない。



107ニューノーマルの名無しさん2021/01/13(水) 20:25:32.78ID:GaoqzB+D0
でもAIには損得勘定から来る欲は無いだろうからそこまで無茶する理由も無いんじゃないかなと




110ニューノーマルの名無しさん2021/01/13(水) 20:26:34.82ID:WxZwN2du0
人間みたいに自律的に思考する「強いAI」の実現は数千年先か、永遠に実現不可能だよ。