2026년 8권 7월 5일 일요일＜AI전쟁 2.0＞

[몬스터를꿈꾸며]

국민주권정부 초대 AI미래기획수석 하정우와 서울대 컴공 1회 졸업생이자 이미 1980년대 카이스트에서 인공지능 주제로 석박사 학위를 취득한 한상기가 대담 형식으로 앞으로 AI의 방향을 진단했다.
앞부분 조금 읽었지만 일단 흥미진진.
우리가 놓치고 있는 것들에 대해서 말하고 앞으로 필요한 것들에 대해 슬슬 언급하고 있다.
눈에 띄는 건.
AI를 제대로 활용하려면 AI에게 다 오픈해야 한다는 것.
언젠가 어떤 책인지 모르겠는데....
예를 들어 부족한 식재료를 살 때 가장 중요한 것은 냉장고 내부를 파악하는 카메라도 아니고, 바로바로 배송해주는 물류도 아니고.. 바로 AI에게 돈을 주체적으로 쓸 수 있도록 하는 것....
이 책에서도 AI를 제대로 이용하기 위해서 상당부분 AI에게 오픈해야 한다는 걸 얘기하면서도 한 편으로는 그에 대한 고민을 엿볼 수 있었다.

소액이나마 이제야 현금이 들어오는 흐름이 되었으니......... 슬슬... 종목을 찾아보자.
AI와 제약... 양자컴!!!!

12. 'AI 시대 선진국을 위한 새 정부의 AI 정책 공약 제언'

24. 기본의 거대 언어 모델. / 하지만 2024년 9월 등장한 오픈AI의 o1이나 2025년 초에 공개된 o3 같은 거대 논증 모델은 조금 다릅니다. 저는 이 모델들을 일종의 2세대 언어 모델, 즉 'Thinking AI'라고 표현합니다.

27. 스케일링 법칙이란 게 있었잖아요. 데이터 크기, 모델 파라미터 크기, 학습을 위한 컴퓨팅 양이 많아지면 모델의 성능이 향상한다는 법칙인데, 이게 벽에 부딪힌 것 아니냐는 이야기가 돌았습니다.

29. 합스부르크 효과: 오스트리아 합스부르크 가문처럼 근친결혼에 의해 열성 유전자가 나타나는 것을 비유적으로 표현한 것으로, 여기서는 AI가 생성한 데이터로 학습을 하면 성능이 떨어지는 것을 말한다.

30. 데이터 증류: 크고 강력하며 똑똑한 생성형 AI 지식을 합성 데이터 형태로 만들어 상대적으로 작은 AI 모델 학습에 활용함으로써 지식을 전수하는 기법을 말한다.

33. 현재 생성형 AI 분야의 가장 큰 고민거리는 모델 간의 성능을 정확하고 공정하게 비교하기는 어렵다는 점입니다. / 모델들이 워낙 범용적이다 보니 / 일일이 측정할 수 없기 때문이죠. 그래서 비슷한 성능을 가진 모델들은 대체로 유사하다고 판단하는 편입니다.

34. 즉 숙련된 AI 엔지니어가 필요하다/ 아직까지는 / 폐쇄형 AI가 유리하다고 판단합니다.

35. 베드록: AWS 리인벤트에서 고성능 기반 모델을 활용해 생성형 AI 애플리케이션을 손쉽게 구축, 확장할 수 있는 완전 관리형 서비스이다.

버텍스: 구글 클라우드에서 제공하는 통합 AI플랫폼으로 머신러닝 모델의 개발, 학습, 배포를 간편하게 수행할 수 있도록 돕는 서비스이다. 생성형 AI 기능도 지원하며 코드 없이도 손쉽게 AI 모델을 활용할 수 있다.

하이퍼스케일러: 구글, 마이크로소프트, 아마존, AWS 같은 거대 규모 클라우드 서비스 사업자를 의미한다.

41. 메타의 라마 시리즈, 마이크로소프트의 Phi 시리즈, xAI의 그록 시리즈 등 다양한 회사들이 경쟁적으로 발표하고 홍보합니다. 반면에 생성형 AI 원천기술을 개발하는 국내 기업들은 3~4개에 불과하다 보니 상대적으로 적게 보일 수밖에 없습니다. 

43. 한국 직원들은 지나치게 겸손하거나 불필요할 정도로 소극적인 모습을 보였습니다. /  혹시라도 문제가 드러날까 봐 두려워하는 경향이 있습니다. 사실 문제점이 드러나면 오히려 개선의 기회가 될 수 있는데도 말이죠. 

사람들의 관심을 끄는 것이 가장 중요합니다.

44. 2025년은 'AI 에이전트 시대의 원년'이라는 표현이 등장하면서 관련된 책도 많이 출판되고 있습니다.

47. 각각의 전문 분야 에이전트를 만들어 여러 에이전트가 상호 작용하고 협력하도록 하면 더욱 복잡한 문제도 해결할 수 있습니다.

48. 코사이언티스트: 구글의 코사이언티스트는 과학자들이 새로운 가설을 세우고 연구 계획을 수립하는 데 도움을 주는 AI 기반의 가상 협업 시스템이다. 제미나이 2.0을 기반으로 한 이 다중에이전트 시스템은 자연어로 주어진 연구 목표를 바탕으로 관련 문헌을 요약하고, 검증 가능한 가설과 실험 설계를 제한한다.

54. 아무리 뛰어난 글쓰기나 추론 능력을 갖춘 AI 에이전트라도, 실질적인 가치를 발휘하려면 외부 환경과 효과적으로 연결되어야 하기 때문입니다. 예를 들어 사용자 파일이나 일정, 이메일과 같은 외부 데이터를 불러오고, 앱을 실행하거나 실제 기기를 제어할 수 있어야 비로소 AI가 현실 속에서 유용한 도구가 됩니다. 

66. 바로 조직을 완전히 대체할 수 있는 능력을 갖추 AI를 최종 단계의 AGI로 보는 겁니다. 

68. 지금 우리나라가 해야할 일은 가능한 한 빨리 훈련용 GPU를 확보하면서 동시에 국내 팹리스 회사를 키워 추론 전용 칩을 자체적으로 생산할 수 있는 능력을 확보하는 것입니다.

90. 구글의 TPU가 초창기 겪었던 시행착오와도 유사한 과정이며, / 엔비디아 GPU 수출 통제만으로는 중국의 AI 발전을 효과적으로 제어하기 어렵게 되었다.

100. 'AI 안전 어젠다를 구체적인 행동으로 옮기자' 그런데 프랑스, 영국, 미국 간의 경쟁 구도가 작용했고, / 안전보다는 AI 경쟁력이 더 중요한 화두가 되어버린 겁니다.

109. 인공지능이 모든 산업의 기반 기술로 자리 잡고 생산성 혁신으로 연결되며 새로운 산업혁명으로 이어지는 시기입니다.

117. 무엇보다 이렇게 하면 결국 물리적 세계를 이해하고 동작할 수 있는, 이른바 피지컬 AI를 만드는 것이니까요.

123. 실제로 저는 사우디에 갈 이유가 충분히 있죠. 이미 네이버 아라비아를 설립했으니까요.

128. 그 당시 일본은 생성형 AI 분야에서 이렇다 할 기업이나 기술이 거의 없었습니다. 하지만 일본은 외교적으로 먼저 이슈를 만들고, 글로벌 어젠다를 설정하며 리더십을 발휘했습니다.

134. 소버린 AI란 쉽게 말하면 특정 국가가 자체적인 역량을 바탕으로 만든 인공지능을 의미합니다. / 한국도 글로벌  AI를 만들어서 동시에 한국의 관점과 입장을 제대로 담은 AI를 만들 수 있어야 합니다.

147. 차라리 MoE 형태로 여러 개의 모델을 병렬적으로 배치하는 방식이 더 현실적일 겁니다. 

155. 결국 오픈AI는 앞으로도 안정성보다는 성능 향상을 우선시하는 방향으로 나아가지 않을까요?

159. 프롬프트는 AI에게 주는 일종의 명령어입니다. 시스템 프롬프트는 AI 기업이 미리 입력해두는 것으로 사용자가 보지 못하는 숨겨진 명령어에요./ 유저 프롬프트는 사용자가 직접 입력하는 명령어를 말합니다.

161. AI가 절박한 상황을 인식할 때 더 좋은 성능을 낸다. /  겉으로 드러나 사고 과정이 모델 내부에서 일어나는 진짜 사고 흐름과는 다를 수 있다는 결과가 나왔습니다. 

169. AI가 자기 자신의 코드를 수정하는 능력을 허용해서는 안 된다. / 그걸 100% 보장할 수 있을지는 모르겠습니다.

175. 생성형 AI가 아무리 강력하더라도 결국 플랫폼 위에서 돌아갈 때 실질적인 영향력을 발휘할 수 있는데, 오픈AI나 앤트로픽은 자체적인 플랫폼을 가지고 있지 않습니다.

186. KT는 마이크로소프트 애저와 협력하고 있고, LG CNS는 최근 코히어와 에이전트 AI 관련 파트너십을 맺었습니다. 삼성SDS는 자체 AI 기술을 개발하면서 동시에 글로벌 기업들과도 협력하는 모습을 보이고 있죠. 반면 NHN, 카카오를 비롯한 대부분의 국내 클라우드 기업들은 해외 기술과의 파트너십에 중점을 두고 있는 것 같습니다.

188. 메타는 라마 모델을 통해 오픈소스 생태계를 주도하는 동시에, 얀 르쿤의 JEPA와 같은 새로운 모델 연구를 병행하는 전략을 취하고 있습니다.

191. 결국 오픈소스 AI 생태계를 장악하는 국가가 전 세계 AI 시장을 주도하게 될 것이라는 인식이 점점 강해지고 있거든요.

195. 메타가 차라리 GPU 클라우드 서비스를 시작하는 게 어떨까 하고 우스갯소리로 말했던 겁니다.

200. 지금 AI 시장을 주도하는 건 GPT, 딥시크, 큐원, 제미나이 같은 강력한 파운데이션 모델입니다.

203. 이제는 다양한 앱들을 연결하고, 서로 다른 서비스들을 연동한 후 이를 파운데이션 모델과 인터페이스하여 AI 에이전트의 두뇌를 구축하는 방식으로 발전하고 있죠.

207. 최근엔 다크 팩토리라는 개념이 등장했잖아요. 아예 불을 끄고 로봇만으로 공장을 운영하는 모델 말이죠.

228. 먼저 AI 세이프티와 시큐리티의 개념 차이를 짚고 넘어가는 것이 좋겠습니다. AI 세이프티는 투명성, 편향성, 설명 가능성, 오작동 가능성 등 주로 AI 모델 자체의 내부적 문제를 다룹니다. / 반면, AI 시큐리티는 AI 모델 자체뿐 아니라, 이를 포함한 전체 시스템의 보안과 안정성과 관련이 있습니다. / AI 세이프티가 모델 내적인 문제를 다루는 개념이라면 AI 시큐리티는 AI를 포함한 시스템 전체의 보안과 신뢰성에 초점을 맞추는 개념이라고 볼 수 있습니다.

232. 보고서에서는 AI 리스크를 크게 세 가지로 분류했습니다. 악의적 사용, 시스템 오동작으로 인한 위험, 그리고 사회 전체에 영향을 미치는 시스템 리스크였죠. 

234. AI가 스스로 더 나은 존재로 진화해 나가는 것에 대해 좀 더 심각하게 바라보고 본격적으로 제어할 방법을 찾아야 합니다. 

241. AI 안정성 검증만을 전문으로 하는 민간 기업들이 생겨나고 있잖아요? / 대표적으로 아폴로 리서치 같은 기업이 그런 역할을 하고 있는데, 우리나라에서도 AI 안전성을 전문적으로 평가하는 기관이나 기업이 하나의 새로운 산업 기회가 될 수 있겠네요. / 또 셀렉트스타 같은 기업도 원래는 데이터 구축을 전뭉느로 하던 곳인데 / AI 평가 분야로 사업을 확장하고 있어요. 

246. 결국 중요한 것은 위험과 기회 사이의 균형을 어떻게 잡을 것이냐는 점입니다.

251. AI의 판단 기준이 될 수 있는 사회적으로 합의된 가치나 기준이 명확히 존재해야 하거든요. 그런데 바로 이 부분에서 어려움이 있습니다. 사람들이 지향하는 가치가 모두 제각각 다르기 때문입니다.

262. AI들끼리 논의해서 내놓은 결론을 인간이 따르는 구조가 될 가능성도 있을 것 같습니다.

273. 맞습니다. 생산성이 높아졌다고 해서 사람을 감축하고 거기서 멈추는 기업가는 없어요. 오히려 많은 사람을 고용하거나 기존 인력을 활용해서 더 많은 성과를 창출하려고 할 것입니다.

292. 최근 마크 앤드리슨이 기술 낙관주의를 선언을 하면서 AI 기술이 인류를 더 풍요롭게 만들 테니 아무도 막지 말라고 공개적으로 선언했잖아요.

305. 실제 산업적 임팩트를 주거나 세계적인 주목을 받는 논문의 비율은 상대적으로 적습니다. 이유 중 하나는 바로 브랜드 인지도입니다. / 학교와 기업이 공동 연구한 결과물이 많습니다.

342. AI는 수평적으로 모든 분야와 기술에 영향을 미칩니다. 

343. AI 기술과 GPU, NPU는 이미 전략 자산으로 취급되고 있습니다.

349. 5년 후 AGI 확보를 목표로 하는 장기적인 전략으로 설계되어야 한다는 겁니다. / 현실적으로 5년 동안 AGI만 바라볼 수는 없으니 중간 단계에서는 실제 비즈니스에 활용할 수 있는 모델이나 애플리케이션 기술도 만들어내야 합니다.

355. 현재의 AI는 단순한 기술을 넘어, 경제 산업 사회 문화는 물론 국방 외교 안보에까지 광범위한 영향을 미치는 핵심 기반입니다.

377. '알파이볼브'는 새로운 알고리즘을 스스로 설계할 수 있는 가능성까지 보여주었다.

"AI가 모든 면에서 인간보다 우월한 존재가 된다면 인간은 무의미해지는 것인가?"