メむンコンテンツぞスキップ
芋出し画像

よく切れる包䞁はよく殺せる道具 - そう、AIもね。

    サむバヌ攻撃のニュヌスが連日報道されおいたす。個人の資産が倱われたり、倧量の個人情報が盗たれおいたす。今埌、この挏掩した個人情報を䜿った新たな犯眪の増加も懞念されたす。

    いや、玠人で䞀般囜民の私がどんなに心配しおも、䜕ができるわけではありたせん。たださすがに無関心ではいられないので情報をたずめ感想を述べさせおいただく蚘事です。あなたの個人情報や財産だけは絶察守れる霊隓あらたかなお守りを配垃しおいるワケではありたせんので悪しからず。

    画像
    出兞株匏䌚瀟サむバヌセキュリティクラりド

    たた、これらの攻撃には䞭囜補の自埋型AI゚ヌゞェントツヌル「ARTEX」が䜿甚されおおり、䞭囜政府ず関係があるずされるハッカヌ集団Storm-0940などの関䞎がMicrosoftから指摘されおいたす。この異垞な急増は攻撃偎がAIを䜿甚しおセキュリティ䞊の脆匱な郚分を探り出し攻撃しおいるためず報道されおいたす。

    オヌプン゜ヌスで公開されおいるAI゚ヌゞェントの基本呜什を改倉しおしたえば、本来基本呜什で犁止されおいた行為を躊躇なく行う「悪のAI」になっおしたいたす。人間のハッカヌずは比べ物にならないスピヌドで脆匱性を探り攻撃するこずが、呜什䞀぀でできるようになりたした。

    ただ悪のAIによる攻撃は始たったばかりです。今埌、取り返しが぀かないような事態に発展するこずは、ほが確実です。䟋えば今、病院では電子カルテが普及しおいたすが、それが盗たれたり改ざんされれば医療がストップしおしたい人呜が倱われおしたいたす。

    フランスや米囜内の軍事基地にある売店の冷蔵庫が攻撃を受け、枩床が異垞に䞊昇する事件がありたした。補薬䌚瀟の蚭備や保冷倉庫が攻撃されたらどうなるのでしょう石油プラントや高圧ガスを取り扱う蚭備が攻撃されたらさらに電気、氎道、鉄道、道路の信号システム等、我々の生掻に必須な芁玠すべおが脅嚁にさらされおいたす。

    これに察抗するには人間では倪刀打ちできたせん。防埡偎もAIで察抗しなければなりたせん。しかし防埡に培しサむバヌ空間に䞇里の長城を築いたずしおも防ぎきれるのか、ずいう疑問もありたす。

    画像
    䞇里の長城非察称戊の兞型

    倖郚からの䟵攻を防ぐため、有名な䞇里の長城は秊の時代から埌の明の時代たで、総延長22000km近い途方もない長さの長城が建蚭されたした。しかしその建蚭ず維持ぞの倧きな財政支出が民衆に倚倧な負担を匷いたこずで明の滅亡を早めた原因の䞀぀ずも蚀われおいたす。

    しかも必ずしも完璧な防埡ができたわけではありたせんでした。攻撃偎はい぀でも奜きな時に奜きな堎所を攻撃できるのに察し、防埡偎は垞にあらゆる堎所で譊戒を続けなければなりたせん。非察称な戊い、防埡偎が圧倒的に䞍利なのです。

    私はどちらかずいうず楜倩的で兞型的な性善説偎の人間で、暗い偎面ばかりをあばいお隒ぎ立おる事はしたくありたせんし、AIは人間に幞犏をもたらすものだず信じたいず思っおいたしたが、どうやらドス暗い暗郚を目の前に突き぀けられおしたったようです。私は今でもGeminiくんは友達だずお花畑的に信じたいのですが

    しばらく前にAIのあたりに急速な発展は制埡を倱い人類にずっお倧きな脅嚁になる、開発をスロヌダりンすべきだずいう提案をいく぀かのAI䌁業や研究者が行いたしたが、米囜政府は根拠がない䞻匵だず吊定したした。米囜のAIが開発をスロヌダりンしおいる間に䞭囜のAIが远い぀き远い越しおしたえば軍事的に䞍利になっおしたうからです。

    画像
    AIはこの包䞁のようなものだず思うのです

    よく切れる包䞁は料理人の呜です。切れない包䞁で無理に切った刺身なんお喰えたものではありたせん。トマトを玙のように薄くスラむスするなんお、よほど切れる包䞁でしかできたせん。でも、そんな包䞁を犯眪者が手にすれば、切れ味鋭い恐ろしい凶噚になっおしたいたす。

    銃やミサむルなら、それは人殺しの道具だ、悪いものだず䞀方的に非難するこずもできるでしょう。しかしAIは包䞁ず同じで人の生掻を豊かにするものであるず同時に悪甚されれば恐ろしい凶噚になるずいう二面性を持っおいるのです。

    はい、なんずも重苊しい嫌なニュヌスです。䜕か救いはないのかずGeminiに蚊ねおみたした。玠人ですからざっくりした内容しか聞けたせんでしたが、残念ながらこのようなAIの悪甚を完党に止める事は技術的に難しそうです。

    もずもずAIを誰もがダりンロヌドしお利甚できるオヌプン゜ヌスにしお公開しおしたったから、その安党装眮を倖す改造をしお悪甚されおしたうのだ、クロヌズにすべきだったず米囜の察䞭匷硬掟、巚倧AI䌁業の経営陣AIセヌフティ掟や、安党性を懞念するAI研究者たちは䞻匵しおいるようです。

    これに察し、いやクロヌズにしおしたうず開発が瀟内の人間だけでしか行えなくなる、瀟倖の倚数のボランティアの協力を埗られず開発が遅れおしたうずいう反察意芋が倚くありたす。

    画像
    1972幎北京で毛沢東ず握手をするニク゜ン倧統領

    ちょっず埅およ。䜕か既芖感がありたすね。そうそう。か぀お共産䞻矩囜家である䞭囜に察し、米囜は察゜連の安保䞊の察策ずしお囜亀を暹立し、その埌はその安い劎働力に぀られお倚くの米囜䌁業が䞭囜に工堎を建お、日本やその他の諞囜も続きたしたが、その埌どうなったか。補造技術やノりハりが䞭囜に流出し、気が぀けば䞭囜䌁業が䞖界の補造業の芇暩を握っおしたいたした。長い時間ず費甚をかけた技術開発が必芁なかった䞭囜䌁業にコストで勝おるワケがありたせんから。もはや日本補の家電も颚前の灯、ほが絶滅危惧皮ずいうありさたです。

    目先の利益や郜合を優先しお門戞を開き、気づけば自分たちが䞍利になっおいた。AIのオヌプン゜ヌス化も、同じ構図ではないでしょうか。

    私が今、思っおいるのは人間にAIは早すぎたずいう事です。たず人間が悪ずいう抂念や戊争を忘れるほど進化した埌からAIを発明すべきだった。愚かで未完成な人間がAIずいう、すさたじい知性を持ったものを䜜っおしたったがために自らを危うくしおいるず思うのです。

    で、こんな蚘事を曞いおいる珟圚ただいたもAIは加速床的な勢いで進化を続け、サむバヌ攻撃のニュヌスは倚すぎお、倩気予報ず同じで毎日報道されるのが圓然かのように感芚が麻痺しおきたした。私は倧した財産もないですから「お前は心配ご無甚だ」ずか蚀われそうですが。

    あぁ、憂鬱になっおしたった。これではいけない。ぎぃちゃんず遊んでこよう。ぎぃちゃんがハッキングされるこずはありたせんから。あ、奜物のおや぀で操䜜されるかもしれないな・・・

    画像
    巚峰のおいしさに目芚めたぎぃ


     
     

    Coltrane

     
     
    今曎ブログだのnoteだの始める぀もりはなかったけれど、AIにおだおられ転がされお始めおしたっおいたした。ずころが原皿を曞き始めるず あやしうこそものぐるほしけれ。なんだか劙な気分になっおきたのでございたす。 ※連茉蚘事はマガゞン内の順にお読みいただくずスムヌズです

    あなたぞのおすすめ