4주차｜기술·ICT·정보보안·AI_심보미_Remarks made by UK Technology Secretary Peter Kyle

[심보미]

Remarks made by Technology Secretary Peter Kyle at the Munich Security Conference

Speaker: Technology Secretary Peter Kyle
Date: 14 February 2025
Event: Munich Security Conference 2025
Word Count: 741

https://www.gov.uk/government/speeches/remarks-made-by-technology-secretary-peter-kyle-at-the-munich-security-conference

Summary

AI 혁명은 이미 진행 중이며, 영국은 AI를 국가 성장의 핵심 동력으로 활용하고자 함. 하지만 AI는 경제 성장과 혁신의 기회를 제공하는 동시에 사이버보안과 국가안보 측면의 새로운 위험도 초래함. 영국은 AI 안보연구소를 중심으로 AI 위험을 관리하고, 안전한 AI 활용을 위한 국제 협력을 강화하고자 함.

Glossary
1. GPT-2 (음차)
2. DeepSeek 딥시크
3. AI Opportunities Action Plan AI 기회 행동계획
: 2025년 영국 정부가 발표한 국가 AI 전략으로, AI 인프라 구축, 연구개발, 인재 양성, 공공서비스 혁신 등을 통해 영국을 AI 선도국으로 육성하기 위한 정책
4. AI Safety Institute > AI Security Institute AI 안전연구소 > AI 안보연구소
: 영국 정부 산하 AI 연구기관. AI 모델의 위험성을 평가·검증하는 기관으로 출범했으며, 2025년 국가안보와 사이버보안 중심 역할을 강조하기 위해 AI Security Institute로 명칭을 변경함.
5. National Cyber Security Centre (NCSC) 국가사이버안보센터, NCSC
: 영국 정부의 국가 사이버보안 전담 기관. 국가 기반시설과 기업·국민을 사이버 공격으로부터 보호하고, 사이버 위협 대응과 보안 지침을 총괄함.

Script
Innovation is defined by its ability to surprise.
Only a few years ago, GPT-2 meant nothing to the public.
For many of us, AI felt like a distant possibility at best.
Something that would never – could never - live up to the hype.
And yet, overnight, ChatGPT became a household name.
It unleashed an unprecedented wave of technological change. 
And the pace of progress shows no signs of slowing down.
With DeepSeek, we’ve just seen once again just how sudden, how unpredictable, innovation can be.
The AI revolution is happening.
Ignoring it is simply not an option.
In the UK, we reject the doomsayers and the pessimists.
Because we are optimistic about the extraordinary potential of this technology.
And hopeful for the radical, far-reaching change it will bring.
We launched the AI Opportunities Action Plan to put us on the front foot.
Working in collaboration with our international partners, we’re going to create one of the biggest clusters of AI innovation in the world and deliver a new era of prosperity and wealth creation for our country.
This is a once-in-a-generation opportunity.
If we can seize it, we will close the door on a decade of slow growth and stagnant productivity.
Of taxes that are just too high.
We will deliver new jobs that put more money in working people’s pockets.
And we will drive forward a digital revolution inside government to make our state smaller, smarter, and more efficient.
But none of that is possible unless we can mitigate its risks that AI presents.
After all, businesses will only use these technologies if they can trust them.
Security and innovation go hand in hand.
AI is a powerful tool and powerful tools can be misused.
State-sponsored hackers are using AI to write malicious code and identify system vulnerabilities, increasing the sophistication and efficiency of their attacks.
Criminals are using AI deepfakes to assist in fraud, breaching security by impersonating officials.
Last year, attackers used live deepfake technology during a video call to mimic bank officials.  
They stole $25 million. 
And now we are seeing instances of people using AI to assist them in planning violent and harmful acts.
These aren’t distant possibilities.
They are real, tangible harms, happening right now.
The implications for our people could be pervasive and profound.
In the UK, we have built the largest team in a government dedicated to understanding AI capabilities and risks in the world.
That work is rooted in the strength of our partnerships with the companies who are right at the frontier of AI.
Working with those companies, the government can conduct scientifically informed tests to understand new AI capabilities and the risks they pose.
Make no mistake, I’m talking about risks to our people, their way of life, and the sovereignty and stability which underpins it.
That is why today, I am renaming our AI Safety Institute as the AI Security Institute.
This change brings us into line with what most people would expect an Institute like this to be doing.
They are not looking into freedom of speech.
They are not deciding what counts as bias or discrimination.
They are not politicians – nor should they be.
They are scientists – scientists who are squarely focused on rigorous research into the most serious emerging risks.
They are researching AI’s potential to assist with the development of chemical and biological weapons.
They are building on the expertise of our National Cyber Security Centre (NCSC) to understand how this technology could be used to help malicious actors commit cyber-attacks.
They want to understand how AI could undermine human control.
Our research shows that those risks are clear:
There has been a clear upward trend in AI system capabilities most relevant to national security in the past 18 months.
For the first time last year, AI models demonstrated PhD-level performance on chemistry and biology question sets.
The safeguards designed to prevent these models doing harm are not currently sufficient.
Every model tested by the Institute is vulnerable to safeguard evasion attacks. 
And it is almost certain that these capabilities will continue to improve, while novel risks will emerge from systems acting as autonomous agents to complete tasks with only limited human instruction. 
The more we understand these risks, the better we can work with companies to address them.
And the faster we can keep our nation safe, the faster our people can embrace the potential of AI to create wealth and improve their lives.