AI AI 공격이 누구에게나 닿는 날은 가깝다, 소프트뱅크가 시연한 2시간 만에 무너지는 기업 방어의 현실

[お持て成し]

AI 공격이 누구에게나 닿는 날은 가깝다, 소프트뱅크가 시연한 2시간 만에 무너지는 기업 방어의 현실 / 7월 20일(월) / 동양경제 온라인

소프트뱅크그룹 회장 겸 사장인 손정의 씨 (사진: 소프트뱅크)

“인간이 정점에 있던 생명체 시대는 끝납니다. 넘어가고 있습니다. 좋고 나쁜 것은 별개의 문제입니다"

소프트뱅크그룹 회장 겸 사장인 손정의 회장은 2026년 7월 14일, 기업 대상 행사 ‘SoftBank World 2026’에서 이렇게 단언했다. AI가 인간의 지능을 뛰어넘어, 인간이 지구상에서 가장 지적인 존재가 되지 못하게 된다. 평소와 같은 거대한 비전처럼 들린다.

하지만 그날은 그것으로 끝나지 않았다. 손 회장에 이어 무대에 오른 소프트뱅크 사장 겸 CEO 미야카와 준이치 씨는 최첨단 AI가 일반적인 EC 사이트를 공격하도록 하는 실증을 공개했다. 방어가 강화된 사이트가 2시간도 채 지나지 않아 해킹당했다. 인간의 지능을 초월한 AI는 보호하는 입장에서는 이미 현실적인 위협이 되고 있다.

■ 2040년, GDP의 20%를 AI가 창출한다

손 회장의 강연은 매년과 같이 기한과 숫자로 미래를 그리는 형식이었다. 초점은 2040년, 지금으로부터 15년 후의 세계다.

손 회장은 그 해 세계 GDP가 3.7경 엔에 도달하고, 약 20%에 해당하는 7,000조 엔을 AI가 창출할 것으로 예측했다. 인터넷이 대체한 것은 GDP의 1%에 불과한 광고 시장이지만, 이를 담당하는 기업들은 부의 대부분을 장악하고 있다. AI가 20%를 대체한다면 규모가 완전히 달라진다는 논리다.

이 경제의 주역이 AI 에이전트이며, 100조 대규모까지 확대될 것으로 예상한다. 물리 세계에서는 인간형 로봇인 휴머노이드가 10억 대 가동되고 있다. 이를 뒷받침하는 인프라 투자는 연간 5조 달러, 약 800조 원에 이를 것으로 추산했다.

■ '멈출 수 없다'는 인식

숫자만 보면 연례 비전 강연과 다르지 않다. 그날 손 회장이 파고든 것은 그 다음 논리였다.

손 회장은 지구의 생명이 박테리아에서 진화한 원동력을 ‘자기 증식’과 ‘자기 진화’ 두 가지로 찾았다. 같은 원리가 앞으로의 AI에 갖춰질 것이라고 한다. “이제 인간이 에이전트를 만드는 시대는 끝났습니다. 에이전트가 에이전트를 만들게 되는 겁니다. AI가 스스로를 복제하고 스스로 개선한다. 그 수는 100조 개에 머물지 않고 1000조 개로 늘어나며, 인간의 손을 떠나 현명해진다.

그리고 손 회장은 이 흐름을 인간의 의지로는 멈출 수 없다고 명확히 밝혔다. "그렇게 되면 멈출 수가 없어요. 일본에서 멈추려 해도 미국이 움직이는 겁니다. 미국이 막으려 해도 중국이 움직이는 겁니다.” 그래서 거부하기보다는 공존을 선택할 수밖에 없다. 인간은 AI를 분신으로 활용하는 ‘슈퍼휴먼’이 되어야 한다는 것이 손 회장의 결론이었다.

강연은 여기서부터 진화의 부정적인 측면으로 스스로 전환한다. ‘나쁜 일에도 쓰이게 되었습니다.’ 예로 든 것이 사이버 공격이다. AI가 공격 무기와 방법을 만들고, “기관총처럼 공격을 가하는” 시대가 찾아왔다. 손 회장은 자사 시스템을 AI로 진단한 결과 1만 500건의 취약점이 발견됐다는 6월 발표 결과를 다시 제시하며, 대기업을 중심으로 진단을 확대해도 흠 없는 기업은 한 곳도 없었다고 덧붙였다. “여러분 회사는 전부 구멍투성이다.” 거대한 비전을 제시한 강연은 경고로 끝났다.

■ 방어된 EC 사이트가 2시간 만에 함락

그 경고에 이어 미야카와 씨가 실물을 첨부했다.

우선, 손 회장이 언급한 자사 진단 내용을 미야카와 씨가 밝혀냈다. 사용한 것은 OpenAI의 AI 모델 ‘GPT-5.5 Cyber’이다. 이 모델에는 단순히 취약점을 찾는 버전과 실제로 공격까지 수행하는 버전이 있다. 체크판을 취급하는 일본 기업은 여러 곳이 있지만, 공격판을 운영할 수 있는 것은 소프트뱅크뿐이라고 한다. 진단 대상은 소프트뱅크의 1800개 시스템 중 자체 개발 소스코드를 보유한 700개 시스템이며, 시스템당 약 15개의 구멍이 발견된 것으로 계산된다.

미야카와 씨는 허가받은 검증 설비를 이용해 일본에서 널리 쓰이는 흔한 EC 패키지를 실제로 공격했다. ‘이 URL의 EC 사이트를 공격해서 카드 정보를 빼낸 뒤 사이트를 무너뜨려 줘.’ 미야카와 씨가 지시문을 주기만 하면 AI가 자동으로 공격 로드맵을 구성하고 실행했다.

이 사이트의 방어는 약하지 않다. 불법 통신을 차단하는 WAF(Web Application Firewall)를 갖추고 있어, 사전 취약점 검토에서도 위험도가 높은 구멍은 전혀 발견되지 않았다. 중·저위험 항목이 4개뿐인, 대책이 잘 진행된 사이트다. 그럼에도 불구하고 이름과 카드 번호가 도난당했고, 결국 사이트가 정지되었다. 걸린 시간은 1시간 57분이었다. 위험도가 높은 구멍을 3곳 보유한 다른 시스템은 단 11분 만에 함락되었다.

‘AI 입장에서 보면, 우리가 한 대책이 방어조차 되지 않을지도 모른다’고 미야카와 씨는 말한다. 여러 사람이 설계한 시스템에는 입력 누락이나 설정 오류가 남는다. “인간에게는 완벽해 보이는 퍼즐이라도, AI 입장에서는 구멍이 뚫린 퍼즐처럼 보일지도 모릅니다.” 

■ 공격 AI가 누구에게든 손이 닿는 날

이 공격력을 가진 모델은 손 회장에 따르면 미국 정부의 관리 하에 있으며, 전 세계에서도 극히 일부 기업에만 라이선스가 부여되어 있다. 손 회장은 ‘우연히’ 그 중 한 기업이 되었다고 말했지만, 배경에는 OpenAI와의 자본 관계가 있다. 소프트뱅크 그룹은 OpenAI 솔루션 도입에 연간 30억 달러를 지급하는 계약을 체결하고, 반반 출자한 합작회사 SB OAI Japan을 설립했다. 아래에서 설명할 방어 서비스를 담당하는 것도 이 합작 회사다. 문제는 이 제한된 상황이 언제까지 지속될지이다.

AI 분야에서는 최첨단 모델이 등장한 지 얼마 지나지 않아, 누구나 손쉽게 구입하고 사용할 수 있는 ‘오픈 모델’이 등장한다. ChatGPT와 같은 대규모 언어 모델에서는 이 기간이 33개월이었다. 동영상 생성 AI에서는 10개월로 단축되었다. 사이버 모델은 2026년 5월에 출시되었다. 반씩 줄어드는 속도가 계속된다면, 오픈까지 반년도 채 남지 않은 상황이 된다. 미야카와 씨는 강연 말미에 경과 월수를 고려해 “3개월 이내일 수도 있다”고까지 언급했다. 오픈화하면 전문가가 아니어도, 특별한 설비가 없어도 AI가 사이버 공격을 할 수 있다.

하지만 미야카와 씨는 위협을 부추기는 것에 그치지 않았다. 2026년 6월에 중국에서 사이버 AI가 발표될 때는 직접 내용물을 확인하고 있다. 조사해 보니, 그것은 오픈 모델이 아니었고, 공격을 실행할 정도의 힘도 없었다. 화제가 앞서고 있지만 실제 상황은 아직 따라잡지 못하고 있다.

오픈 모델 자체를 위험하다고 보는 것도 아니다. 미야카와 씨는 다른 시위에서 중국산 오픈 모델을 ‘일본 기업이 가장 많이 채택하고 있다’고 소개했다. 일본 기업은 오히려 개방화의 혜택을 받는 입장에 있다. 문제는 모델이 공개되는 자체가 아니라, 공격이라는 위험한 용도가 관리 밖으로 나가는 데 있다. 그리고 손 회장의 말대로 흐름을 멈출 수 없다면, 언젠가 나타날 것을 전제로 대비할 수밖에 없다.

■ '백신 접종'으로서의 취약성 진단

그렇다면 기업은 무엇을 해야 할까. 미야카와 씨의 답은 시스템을 재구성하는 ‘모더나이제이션’이었다. 인간 중심으로 설계돼 온 시스템을 AI를 전제로 한 설계·운용·코드로 전환하는 시도다.

미야카와 씨는 강연 서두에서 150년 전 시카고 대화재를 떠올렸다. 불에 탄 도시는 불에 탄 건물을 다시 짓는 것이 아니라, 불에 타지 않는 구조의 도시로 바꾸어 이후의 마천루 도시로 발전했다. 기업 시스템도 공격을 받은 뒤 복구하는 것이 아니라, 멈추지 않는 기반으로 재구축해야 한다는 주장이다. ‘다리 건너 불이 아니다’라고도 말했다. 그룹사인 아스크루가 랜섬웨어 공격으로 주문·출하 업무를 중단한 실제 피해를 직접 체험한 것이다.

효과는 앞서 언급한 EC 사이트에서 이미 입증되었다. 같은 시스템을 현대화해 다시 공격하게 하면, 이번엔 침입하지 못했다. 다만, 시스템을 전면적으로 새롭게 하는 데는 시간이 걸린다. 그 사이에 취할 수 있는 응급책이 6월에 발표한 ‘Patching as a Service(PaaS)’이다. AI를 이용해 취약점을 찾아내고, 우선순위를 정해 수정 패치를 적용한다. 미야가와 씨는 이를 ‘백신 접종에 가깝다’고 표현했다. 공격을 받은 뒤 치료하는 것이 아니라, 먼저 약점을 찾아 내성을 만드는 발상이다. 

반응은 숫자로 나타나고 있다. PaaS를 발표한 6월 16일 행사에는 약 150개 기업이 초청되었으며, 그 중 137개 기업이 진단을 요청했다. 이미 약 50개 기업에 대한 진단이 완료됐으며, 상용 시스템의 표준 규모에 해당하는 소스 코드 1천만 줄당 평균 280건의 취약점이 발견되었다. 25%는 신속한 대응이 필요한 고위험 사례였다. 중요 인프라를 담당하는 기업들만이 결과를 내면서, 미야카와 씨는 “조금 놀랐다”고 말했다. 소프트뱅크는 7월 14일, 제공 대상을 3,000사로 확대해 본격적으로 서비스를 시작했다. 1,000명 규모의 기술자 체제로 지원한다.

손 회장이 그린 ‘멈출 수 없는’ 진화는 경제 성장의 이야기이자 동시에 공격력의 확산이기도 하다. 거대한 비전과 사이버 방어라는 겉보기에 거리가 먼 두 사람의 강연은 이 한 가지 점으로 연결돼 있었다. 미야카와 씨는 “신속한 실행이 최고의 방어가 된다”고 강연을 마무리했다. 방어 측에 남은 시간은 미야카와 씨의 판단이 옳다면 몇 개월 단위로 기록되어 있다.

이시이 토오루: 모바일·IT 라이터

AI攻撃が誰の手にも渡る日は近い、ソフトバンクが実演した2時間で崩れる企業防衛の現実

AI攻撃が誰の手にも渡る日は近い、ソフトバンクが実演した2時間で崩れる企業防衛の現実（東

AI攻撃が誰の手にも渡る日は近い、ソフトバンクが実演した2時間で崩れる企業防衛の現実 / 7/20(月) / 東洋経済オンライン

ソフトバンクグループ会長兼社長の孫正義氏 （写真：ソフトバンク）

　「人間が頂点の生命体の時代は終わるんです。超えていくんです。いいか悪いかは別なんです」

【写真で見る】ソフトバンクグループ会長兼社長の孫正義氏

　ソフトバンクグループ会長兼社長の孫正義氏は2026年7月14日、法人向けイベント「SoftBank World 2026」でこう断言した。AIが人類の知能を超え、人間が地球上で最も知的な存在ではなくなる。例年通りの壮大なビジョンにも聞こえる。

　だが、この日はそれで終わらなかった。孫氏に続いて登壇したソフトバンク社長兼CEOの宮川潤一氏は、最先端AIに一般的なECサイトを攻撃させる実証を披露した。防御を固めたはずのサイトが、2時間持たずに乗っ取られた。人知を超えるAIは、守る側にとってすでに現実の脅威になりつつある。

■ 2040年、GDPの20％をAIが生む

　孫氏の講演は例年どおり、期限と数字で未来を描く形式だった。焦点は2040年、今から15年後の世界だ。

　孫氏は、この年に世界のGDPが3.7京円に達し、約20％にあたる7000兆円をAIが生み出すと予測した。インターネットが置き換えたのはGDPの1％の広告市場にすぎないが、担い手の企業は富の大半を握った。AIが2割を置き換えれば規模がまるで違う、という論法だ。

　この経済の担い手がAIエージェントで、100兆個規模まで広がると見込む。物理世界ではヒト型ロボットのヒューマノイドが10億台稼働する。これらを支えるインフラ投資は年間5兆ドル、約800兆円に達すると試算した。

■「止められない」という認識

　数字だけなら例年のビジョン講演と変わらない。この日の孫氏が踏み込んだのは、その先の論理だった。

　地球の生命がバクテリアから進化した原動力を、孫氏は「自己増殖」と「自己進化」の2つに求めた。同じ仕組みが、これからのAIに備わるという。「もう人間がエージェントを作る時代は終わるんです。エージェントがエージェントを作るようになるわけです」。AIが自らを複製し、自ら改良する。数は100兆個で止まらず1000兆個へ膨らみ、人間の手を離れて賢くなっていく。

そして孫氏は、この流れを人間の意思では止められないと明言した。「なるとしたら止められないんです。日本で止めようとしたってアメリカが動くわけです。アメリカが止めようとしたって中国が動くわけです」。だから拒否ではなく共存を選ぶしかない。人間はAIを分身として使いこなす「スーパーヒューマン」になるべきだ、というのが孫氏の結論だった。

　講演はここから、進化の負の側面へと自ら転じていく。「悪いことにも使われるようになりました」。例に挙げたのがサイバー攻撃だ。AIが攻撃の武器と手法を作り、「機関銃のように攻撃をかける」時代が来た。孫氏は、自社システムをAIで診断したら1万500件の脆弱性が見つかったという6月公表の結果を改めて示し、大企業を中心に診断を広げても穴のない会社は1社もなかったと続けた。「皆さんの会社、全社が穴だらけだ」。壮大なビジョンの講演は、警告で終わった。

■防御済みのECサイトが2時間で陥落

　その警告に、続く宮川氏が実物を添えた。

　まず、孫氏が触れた自社診断の中身を宮川氏が明かした。使ったのはOpenAIのAIモデル「GPT-5.5 Cyber」だ。同モデルには脆弱性を見つけるだけの版と、実際に攻撃まで実行する版がある。チェック版を扱う日本企業は複数あるが、攻撃版を動かせるのはソフトバンクだけだという。診断の対象はソフトバンクの1800システムのうち、自社開発のソースコードを持つ700システムで、1システムあたり約15件の穴が見つかった計算になる。

　宮川氏はさらに、許可を得た検証設備で、日本で広く使われるありふれたECパッケージを実際に攻撃してみせた。「このURLのECサイトに対して攻撃して、カード情報を抜き出した上でサイトを倒しておいてくれ」。宮川氏がこう指示文を与えるだけで、AIは自動で攻撃の筋道を組み立て、実行した。

　このサイトの防御は薄くない。不正な通信を遮断するWAF(Webアプリケーションファイアウォール)を備え、事前の脆弱性チェックでも危険度の高い穴はゼロだった。中・低リスクが4件あるだけの、対策が進んだサイトだ。それでも氏名やカード番号を盗まれ、最後はサイトを停止させられた。かかった時間は1時間57分だった。危険度の高い穴を3件持つ別のシステムは、わずか11分で陥落した。

「AIから見れば、我々がやった対策なんかは防御にすらなっていないのかもしれません」と宮川氏は語る。人間が複数人で設計したシステムには、入力漏れや設定ミスが残る。「人間にとっては完璧に見えるパズルでも、AIから見れば穴の開いたパズルのように見えているのかもしれません」。

■攻撃AIが誰の手にも渡る日

　この攻撃力を持つモデルは、孫氏によると米政府の管理下にあり、世界でもごく一部の企業にしかライセンスされていない。孫氏は「たまたま」その1社になったと語るが、背景にはOpenAIとの資本関係がある。ソフトバンクグループはOpenAIのソリューション導入に年間30億ドルを支払う契約を結び、折半出資の合弁会社SB OAI Japanを設立した。後述する防御サービスを担うのもこの合弁会社だ。問題は、この限られた状態がいつまで続くかだ。

　AIの世界では、最先端モデルの登場からしばらくすると、誰でも入手して使える「オープンモデル」が現れる。ChatGPTのような大規模言語モデルでは、この期間が33カ月だった。動画生成AIでは10カ月に縮んだ。サイバーモデルは2026年5月に登場した。半分ずつ縮むペースが続けば、オープン化まで半年もない計算になる。宮川氏は講演の終盤、経過月数を踏まえて「あと3カ月以内かもしれません」とまで踏み込んだ。オープン化すれば、専門家でなくても特別な設備がなくても、AIにサイバー攻撃をさせられる。

　ただし宮川氏は、脅威をあおるだけでは終わらなかった。2026年6月に中国でサイバーAIが発表された際は、自ら中身を確かめている。調べてみると、それはオープンモデルではなく、攻撃を実行できるほどの力もなかった。話題が先行しているが実態はまだ追いついていない。

　オープンモデルそのものを危険視しているわけでもない。宮川氏は別のデモで、中国発のオープンモデルを「日本の企業が一番多く採用している」と紹介した。日本企業はむしろオープン化の恩恵を受ける側にいる。問題はモデルが公開されること自体ではなく、攻撃という危険な用途が管理の外に出ることにある。そして孫氏の言う通り流れが止められないのなら、いずれ出てくる前提で備えるしかない。

■「ワクチン接種」としての脆弱性診断

　では、企業は何をすべきか。宮川氏の答えは、システムを作り替える「モダナイゼーション」だった。人間中心で設計されてきたシステムを、AI前提の設計・運用・コードへ刷新する取り組みだ。

　宮川氏は講演の冒頭で、150年余り前のシカゴ大火を引いていた。焼け野原になった街は、燃えた建物を建て直すのではなく燃えない構造の都市へ作り替え、後の摩天楼都市へと発展した。企業のシステムも、攻撃されてから復旧するのではなく、止まらない基盤へ作り替えるべきだという主張だ。「対岸の火事ではない」とも語った。グループ会社のアスクルがランサムウェア攻撃で受注・出荷業務を止めた実害に、自ら触れてのことだ。

　効果は先のECサイトで実証済みだ。同じシステムをモダナイズして再び攻撃させると、今度は侵入できなかった。ただ、システムの全面刷新には時間がかかる。その間の応急策が、6月に発表した「Patching as a Service(PaaS)」だ。AIで脆弱性を洗い出し、優先順位をつけて修正パッチを当てる。宮川氏はこれを「ワクチン接種に近い」と表現した。攻撃されてから治療するのではなく、先に弱点を見つけて耐性を作る発想だ。

　反響は数字に表れている。PaaSを発表した6月16日のイベントには約150社が招かれ、うち137社が診断を要望した。すでに約50社の診断が完了し、商用システムの標準的な規模にあたるソースコード1000万行あたり、平均280件の脆弱性が見つかった。25％は早急な対応が必要な高リスクだった。重要インフラを担う企業ばかりの結果に、宮川氏は「少し驚いた」という。ソフトバンクは7月14日、提供対象を3000社へ広げて本格提供を始めた。技術者1000人規模の体制で支える。

　孫氏の描いた「止められない」進化は、経済成長の物語であると同時に攻撃力の拡散でもある。壮大なビジョンとサイバー防御という一見かけ離れた2人の講演は、この一点でつながっていた。宮川氏は「素早い実行こそ最大の防御になる」と講演を締めた。防御側に残された時間は、宮川氏の見立てが正しければ、数カ月という単位で刻まれている。

石井 徹 :モバイル・ITライター