5th Week Technology and society - How to worry wisely about artificial intelligence

[Statesman]

Technology and society

How to worry wisely about artificial intelligence

기술과 사회

인공 지능에 대해 현명하게 우려하는 방법

Rapid progress in AI is arousing fear as well as excitement. How worried should you be?

AI에서의 급격한 발전은 흥분 뿐만 아니라 두려움을 불러일으키고 있는 중이다. 당신은 어떻게 우려해야 하는가?

Apr 20th 2023

“Should we automate away all the jobs, including the fulfilling ones? Should we develop non-human minds that might eventually outnumber, outsmart...and replace us? Should we risk loss of control of our civilisation?” These questions were asked last month in an open letter from the Future of Life Institute, an ngo. It called for a six-month “pause” in the creation of the most advanced forms of artificial intelligence (ai), and was signed by tech luminaries including Elon Musk. It is the most prominent example yet of how rapid progress in ai has sparked anxiety about the potential dangers of the technology.

우리는 충족감을 주는 일자리들을 포함하여, 모든 일자리들을 자동화해야 할까요? 우리는 결국 우리보다 우세하고, 우리보다 똑똑하고...그리고 우리를 대체할 수 도 있는 비인간적인 마음들을 개발해야 하는가? 우리는 우리 문명의 통제를 잃을 위험을 져야 하는가? 이들 물음들이 지난 달 NGO인, 생명의 미래 연구소의 공개 서한에서 제기되었다. 그것은 가장 고급 형태들의 인공지능(AI) 창출의 6개월 "중지"를 요청하였고, 그리고 엔론 머스크를 포함한 기술계 저명인사들에 의해 서명되었다. 그것은 AI에서의 빠른 발전이 잠재적인 기술의 위험들에 대한 우려를 불러일으킨 가장 유명한 사례이다.

fulfil : 1.실현하다2.이행하다3.하다

In particular, new “large language models” (llms)—the sort that powers Chatgpt, a chatbot made by Openai, a startup—have surprised even their creators with their unexpected talents as they have been scaled up. Such “emergent” abilities include everything from solving logic puzzles and writing computer code to identifying films from plot summaries written in emoji.

특히, 새로운 "언어 모델들"(LLMS)--신생기업인, 오픈AI에 의해 만들어진 챗봇인, 챗GPT를 구동하는 종류--은 그들이 확대되어왔던 그들의 예상하지 않았던 재능들로 심지어 그들의 제작자들을 놀라게 하였다. 그러한 "신생의" 능력들은 논리 퍼즐들을 해결하는 것과 컴퓨터 코드를 작성하는 것에서부터 이모티콘으로 쓰여진 요약들로부터 영화를 식별하는 것 까지 모든 것을 포함한다.

emergent :신생의, 신흥의

These models stand to transform humans’ relationship with computers, knowledge and even with themselves. Proponents of ai argue for its potential to solve big problems by developing new drugs, designing new materials to help fight climate change, or untangling the complexities of fusion power. To others, the fact that ais’ capabilities are already outrunning their creators’ understanding risks bringing to life the science-fiction disaster scenario of the machine that outsmarts its inventor, often with fatal consequences.

이들 모델들은 인간들의 컴퓨터들, 지식 그리고 심지어 그들 자신들과의 관계를 변모시킬 가능성을 가지고 있다. AI의 지지자들은 새로운 약을 개발하거나, 기후 변화와 싸우는 것을 지원하기 위한 새로운 물질들을 설계하거나 또는 핵융합의 복잡성을 해결함으로써 거대한 문제들을 해결하는 AI의 잠재력을 주장한다. 다른 사람들에게, AI의 능력들이 이미 창조자들의 이해를 뛰어넘고 있는 중이라는 사실은 종종 치명적인 결과들을 초래하는, 기계의 창조자를 능가하는 기계의 공상과학적 재앙의 시나리오를 활기 넘치게 할 위험을 지게 한다.

stand to : 1.활동 부서에 배치되어 있다, 적의 공격에 대비하여 대기하다2.[약속·주의·입장 따위]를 고수하다3.[의견 따위]를 고집하다, …을 주장하다

untangle : (복잡하거나 혼란스러운 것을) 풀다

This bubbling mixture of excitement and fear makes it hard to weigh the opportunities and risks. But lessons can be learned from other industries, and from past technological shifts. So what has changed to make ai so much more capable? How scared should you be? And what should governments do?

이러한 흥분과 두려움의 거품이 일어나는 혼합은 기회들과 위험들을 평가하기 어렵게 만든다. 그러나 교훈들이 다른 산업들과 과거 기술 전환들로부터 배워질 수 있다. 그래서 AI가 아주 많이 능력있게 만들어지기 위해 무엇이 변화하였을까? 우리는 얼마나 두려워 해야 하는가? 그리고 정부는 무엇을 해야 하는가?

In a special Science section, we explore the workings of llms and their future direction. The first wave of modern ai systems, which emerged a decade ago, relied on carefully labelled training data. Once exposed to a sufficient number of labelled examples, they could learn to do things like recognise images or transcribe speech. Today’s systems do not require pre-labelling, and as a result can be trained using much larger data sets taken from online sources. llms can, in effect, be trained on the entire internet—which explains their capabilities, good and bad.

과학 특집 섹션에서, 우리는 LLMS의 작동 방식들과 그들의 미래 방향을 탐구하였다. 10년 전에 등장했던, 현재 AI 시스템들의 첫 파고는 조심스럽게 라벨링된 훈련 데이타에 의존하였다. 일단 충분한 수의 라벨링된 사례들에 노출되면, 그들은 이미지를 인식하거나 또는 음성을 전사하는 것과 같은 일들을 하도록 배우게 될 수 있다. 오늘 날의 시스템들은 사전 라벨링을 필요로 하지 않고, 그리고 그 결과 온라인 원천들로부터 가져온 훨씬 더 많은 데이터 세트들을 사용하여 훈련될 수 있다. LLMS들은, 사실상, 전체 인터넷에서 훈련될 수 있다--그것이 그들의 능력들이, 좋고 나쁜 것을 설명한다.

Those capabilities became apparent to a wider public when Chatgpt was released in November. A million people had used it within a week; 100m within two months. It was soon being used to generate school essays and wedding speeches. Chatgpt’s popularity, and Microsoft’s move to incorporate it into Bing, its search engine, prompted rival firms to release chatbots too.

그러한 능력들은 11월에 챗GPT가 출시되었을 때 좀 더 광범위한 대중에게 명백하게 되었다. 출시 1주일 내에 백 만명이 사용하였다; 2개월 내에 1억명이 사용하였다. 그것은 학교 에세이들과 결혼식 연설들을 만드는 것에 바로 사용되고 있는 중이었다. 챗GPT의 인기와 마이크로소프트의 검색엔진인, 빙에 그것을 포함시키고자 하는 마이크로소프의 움직임은 경쟁 업체들 역시 챗봇들을 출시하도록 촉진하였다.

Some of these produced strange results. Bing Chat suggested to a journalist that he should leave his wife. Chatgpt has been accused of defamation by a law professor. llms produce answers that have the patina of truth, but often contain factual errors or outright fabrications. Even so, Microsoft, Google and other tech firms have begun to incorporate llms into their products, to help users create documents and perform other tasks.

이것들의 일부는 이상한 결과들을 내어놓았다. 빙챗은 그가 그의 아내를 떠나야만 한다고 기자에게 제시하였다. 챗GPT는 법학 교수에 의해 중상모략으로 비난을 받았다. LLMS는 진실한 면을 가지고 있지만, 종종 사실적인 오류 또는 명백한 거짓말들을 포함하고 있다. 심지어 그렇다고 할지라도, 마이크로소프트, 구글 그리고 다른 기술 기업들은 사용자가 문서들을 작성하고 그리고 다른 작업을 수행하도록 지원하기 위해, LLMS를 그들의 상품들로 통합하기 시작하였다.

defamation : 중상, 명예 훼손

patina : 고색, 그윽한 멋

fabrication :꾸며낸 것, 거짓말; 위조(물), 위조 문서

The recent acceleration in both the power and visibility of ai systems, and growing awareness of their abilities and defects, have raised fears that the technology is now advancing so quickly that it cannot be safely controlled. Hence the call for a pause, and growing concern that ai could threaten not just jobs, factual accuracy and reputations, but the existence of humanity itself.

인공지능 시스템들의 성능과 가시성 모두에서의 최근 가속화와 그들의 능력과 결함의 증가하는 인식은 기술이 현재 아주 빠르게 발전하고 있는 중이고 그리하여 AI가 안전하게 통제될 수 없다는 두려움들을 제기하였다. 그런 이유로 AI가 단지 일자리들, 사실적 정확성 그리고 평판들 뿐만 아니라 인류의 존재 그 자체를 위협할 수 있다는 증가하는 우려와 일시적 중단의 요구가 있다.

Extinction? Rebellion?

멸종? 반란?

The fear that machines will steal jobs is centuries old. But so far new technology has created new jobs to replace the ones it has destroyed. Machines tend to be able to perform some tasks, not others, increasing demand for people who can do the jobs machines cannot. Could this time be different? A sudden dislocation in job markets cannot be ruled out, even if so far there is no sign of one. Previous technology has tended to replace unskilled tasks, but llms can perform some white-collar tasks, such as summarising documents and writing code.

기계가 일자리들을 훔칠 것이라는 두려움은 수 세기에 걸쳐 존재해왔다. 그러나 지금까지 새로운 기술은 파괴하였던 일자리들을 대체하기 위해 새로운 일자리들을 창출하였다. 기계는 일부 작업들을 수행할 수 있는 능력이 있는 경향이었지만, 기계가 할 수 없는 일을 할 수 있는 사람들에 대한 수요를 증가시키는, 다른 작업들에 대한 능력은 없었다. 이번에는 다를까? 일자리 시장의 갑작스러운 혼란은, 심지어 지금까지 그러한 징후가 없을 지라도, 배제될 수 없다. 이전의 기술은 비숙련 과업들을 대체하는 경향이 있었지만, LLMS는 문서를 요약하는 것과 코드 작성과 같은, 일부 화이트칼라 작업들을 수행할 수 있다.

dislocation : 혼란

The degree of existential risk posed by ai has been hotly debated. Experts are divided. In a survey of ai researchers carried out in 2022, 48% thought there was at least a 10% chance that ai’s impact would be “extremely bad (eg, human extinction)”. But 25% said the risk was 0%; the median researcher put the risk at 5%. The nightmare is that an advanced ai causes harm on a massive scale, by making poisons or viruses, or persuading humans to commit terrorist acts. It need not have evil intent: researchers worry that future ais may have goals that do not align with those of their human creators.

인공지능에 의해 초래되는 존재적 위험의 정도는 뜨겁게 논란이 되어왔었다. 전문가들은 양분되어 있다. 2022년에 수행된 인공지능 연구자들의 설문조사에서, AI의 영향이 "극도로 나쁘게 (예를 들면, 인류 멸종)"되는 것이 최소한 10%의 가능성을 가지고 있다고 48%는 생각했다. 그러나 25%는 그 위험이 0%라고 말했고, 중간 연구자는 그 위험을 5%로 평가하였다. 악몽은 발전된 AI가 독 또는 바이러스를 만들거나 또는 인간이 테러 행위들을 저지르도록 설득함으로써, 대규모로 해악을 야기하는 것이다. 나쁜 의도를 가지는 것을 필요로 하지 않는다 : 미래 AI들은 그들의 인간 창조자들의 목표들과 일치하지 않는 목표들을 가질 수 도 있다고 연구자들은 우려한다.

Such scenarios should not be dismissed. But all involve a huge amount of guesswork, and a leap from today’s technology. And many imagine that future ais will have unfettered access to energy, money and computing power, which are real constraints today, and could be denied to a rogue ai in future. Moreover, experts tend to overstate the risks in their area, compared with other forecasters. (And Mr Musk, who is launching his own ai startup, has an interest in his rivals downing tools.) Imposing heavy regulation, or indeed a pause, today seems an over-reaction. A pause would also be unenforceable.

그러나 시나리오들은 경시되어서는 안된다. 그러나 모두가 거대한 양의 추측과 그리고 오늘날의 기술과 멀리 있는 것과 관계하고 있다. 그리고 미래 AI가 오늘날 실질적인 제한을 받고 있지만, 미래의 악당 AI에게는 그렇지 않게 되는 에너지, 자금, 컴퓨팅 파워에 대한 제한 받지 않는 접근을 하는 것을 많은 사람들은 상상한다. 게다가, 전문가들은 다른 예상들과 비교하여, 그들의 영역에서 위험들을 과장하는 경향이 있다. (그리고 그 자신의 AI 신생기업을 시작하고 있는 중인, 머스크 씨는 도구들을 억제시키는 그의 경쟁 기업들에 관심을 가지고 있다.) 오늘날 과도한 규제, 또는 일시 중지를 부과하는 것은 과도한 반응으로 보인다. 일시 중지는 또한 실행될 수 없을 것이다.

unfettered : 제한받지 않는, 규제가 없는

down :…을 때려눕히다(knock down); 패배시키다, 굴복시키다, 죽이다, 억제하다; 〔소리 따위〕를 죽이다, 가라앉히다.

Regulation is needed, but for more mundane reasons than saving humanity. Existing ai systems raise real concerns about bias, privacy and intellectual-property rights. As the technology advances, other problems could become apparent. The key is to balance the promise of ai with an assessment of the risks, and to be ready to adapt.

규제는 인류를 구하기 위한 것 보다 좀 더 일상적인 이유로 필요하다. 기존의 AI 시스템들은 편견, 사생활 침해 그리고 지적 재산권에 대한 실제 우려들을 제기한다. 기술이 발전함에 따라, 다른 문제들이 명백하게 될 수 있다. 핵심은 위험의 평가와 AI의 전망의 균형을 취하고, 그리고 적응할 수 있도록 준비가 되게 하는 것이다.

mundane :1.이승의, 현세의; 세속적인2.평범한, 흔히 있는; 실제의, 재미없는, 일상적인,

So far governments are taking three different approaches. At one end of the spectrum is Britain, which has proposed a “light-touch” approach with no new rules or regulatory bodies, but applies existing regulations to ai systems. The aim is to boost investment and turn Britain into an “ai superpower”. America has taken a similar approach, though the Biden administration is now seeking public views on what a rulebook might look like.

지금까지 세가지 다른 접근 방법들을 취하고 있는 중이다. 스펙트럼의 한 쪽에는 영국이 있다. 영국은 새로운 규정들이나 규제기관들이 없지만, 기존 규정들을 AI 시스템에 적용하는 “ 가볍게 접근하는 접근 방법”을 제안하였다. 그 목적은 투자를 촉진하고 그리고 영국을 “AI 초강대국”으로 전환시키는 것이다. 비록 바이든 행정부가 현재 규정들이 어떠해야 하는 지에 대한 대중의 의견을 수렴하고 있는 중이라고 할지라도, 유사한 접근 방법을 취하였다.

The eu is taking a tougher line. Its proposed law categorises different uses of ai by the degree of risk, and requires increasingly stringent monitoring and disclosure as the degree of risk rises from, say, music-recommendation to self-driving cars. Some uses of ai are banned altogether, such as subliminal advertising and remote biometrics. Firms that break the rules will be fined. For some critics, these regulations are too stifling.

EU는 좀 더 강한 노선을 취하고 있는 중이다. EU의 제안된 법안은 위험의 정도에 의한 다른 AI의 사용들을 범주화하고, 그리고 말하자면, 음악 추천들에서부터 자율 주행 자동차들까지 위험의 정도에 따른 점점 더 엄격한 모니터링과 정보 공개를 요구하고 있다. 알지 못하는 사이에 영향을 미치는 광고와 원격의 개인 생체정보를 이용한 인증 방식과 같은, 일부 AI의 사용들은 함께 금지되었다. 규정들을 파괴하는 기업들은 벌금을 받게 될 것이다. 일부 비판자들에게, 이들 규정들은 너무 억압적이라는 지적이 있다.

disclosure :정보 공개; 기업 공개

subliminal :알지 못하는 사이에[부지불식간에] 영향을 미치는

biometrics :지문, 홍채, 피부 등 개인의 생체정보를 이용한 인증 방식

But others say an even sterner approach is needed. Governments should treat ai like medicines, with a dedicated regulator, strict testing and pre-approval before public release. China is doing some of this, requiring firms to register ai products and undergo a security review before release. But safety may be less of a motive than politics: a key requirement is that ais’ output reflects the “core value of socialism”.

그러나 다른 사람들은 심지어 좀 더 엄격한 접근 방법이 필요하다고 말한다. 정부들은 AI를 전용 규제기관, 엄격한 검사 그리고 대중에게 출시하기 전 사전 승인으로, 의약품들과 같이 취급해야 한다. 중국은 기업들이 AI 상품들을 등록하고 그리고 출시전에 보안 검토를 받는 것을 거치도록 요구하며, 이것의 일부를 하고 있는 중이다. 그러나 안전은 정치적인 동기보다 덜 중요할 수 도 있다 : 핵심적인 요구사항은 AI의 산출물이 “ 사회주의의 핵심 가치”를 반영하는 것이다.

dedicated :1.전념하는, 헌신적인2.특정한 작업용으로 만들어진, … 전용의

What to do? The light-touch approach is unlikely to be enough. If ai is as important a technology as cars, planes and medicines—and there is good reason to believe that it is—then, like them, it will need new rules. Accordingly, the eu’s model is closest to the mark, though its classification system is overwrought and a principles-based approach would be more flexible. Compelling disclosure about how systems are trained, how they operate and how they are monitored, and requiring inspections, would be comparable to similar rules in other industries.

어떻게 해야 하는가? 가볍게 접근하는 접근방법은 충분하지 않을 것이다. 만약 AI가 자동차들, 비행기들 그리고 의약품들 만큼 중요하다면, — 그리고 그렇다고 믿을 좋은 이유가 있다면—, 그것들과 같이, 새로운 규정들을 필요할 것이다. 그런 이유로, EU의 분류 시스템이 과도하고 그리고 원칙에 기반한 접근 방법이 좀 더 유연할 지라도, EU의 모델이 가장 근접하고 있다. 시스템들이 훈련되는 방식, 시스템들이 작동하는 방식 그리고 시스템들이 모니터 되는 방식에 대한 정보 공개를 강제하고 그리고 점검들을 필수로 하는 것은 다른 산업들에서 비슷한 규정들과 비교가능하게 될 것이다.

This could allow for tighter regulation over time, if needed. A dedicated regulator may then seem appropriate; so too may intergovernmental treaties, similar to those that govern nuclear weapons, should plausible evidence emerge of existential risk. To monitor that risk, governments could form a body modelled on cern, a particle-physics laboratory, that could also study ai safety and ethics—areas where companies lack incentives to invest as much as society might wish.

이것은 만약 필요하다면, 시간이 지남에 따라 좀 더 엄격한 규제를 허용할 수 있다. 그 때 전담 규제기관이 적절한 것으로 보인다 ; 핵무기를 통제하는 협약들과 유사하게, 가능한 증거가 존재적인 위험을 등장시킨다면, 정부간 협약들 역시 필요할 수 도 있다. 그 위험을 모니터하기 위해, 기업들은 사회가 희망할 수 도 있는 만큼 투자할 유인이 부족했던 곳의 영역들인, AI 안전성과 윤리를 또한 연구할 수 있는, 입자 물리학 실험실인, CERN에서 모델화했던 기관을 정부는 만들 수 있다.

This powerful technology poses new risks, but also offers extraordinary opportunities. Balancing the two means treading carefully. A measured approach today can provide the foundations on which further rules can be added in future. But the time to start building those foundations is now.

이러한 강력한 기술은 위험들을 제기하지만, 또한 특별한 기회들을 제공한다, 두 가지의 균형을 맞추는 것은 조심스럽게 진행하는 것을 의미한다. 오늘날 신중한 접근방법은 미래에 추가적인 규정들이 추가하게 될 수 있는 기반들을 제공할 수 있다. 그러나 그러한 기반들을 만드는 것을 시작할 시기이다.

measured : 신중한, 침착한