지나 라이몬도 미 상무장관, 미국 AI 안전 연구소 리더십팀 확대 발표

[힘힘]

지나 라이몬도 미 상무장관, 미국 AI 안전 연구소 리더십팀 확대 발표

지나 라이몬도 미 상무장관은 오늘 미국 국립표준기술연구소(NIST)에 소장돼 있는 미국 AI안전연구소(AISI)의 경영진 지도팀 일원을 추가로 발표했습니다. Raimondo는 AI Safety의 책임자로 Paul Christiano를, Adam Russell을 최고 비전 책임자로, Mara Campbell을 최고 운영 책임자 겸 비서실장으로, Rob Reich를 선임 고문으로, Mark Latonero를 International Engagement의 책임자로 임명했습니다. 그들은 2월에 발표된 AISI 이사 엘리자베스 켈리와 최고 기술 책임자 엘함 타바시와 함께 할 것입니다. AISI는 Biden 대통령의 지시에 따라 NIST 내에 설립되었으며, 여기에는 대통령의 획기적인 행정명령에 따라 상무부에 할당된 책임을 지원하기 위한 것도 포함됩니다.

"책임 있는 인공지능에 대한 글로벌 리더십을 보호하고 인공지능의 위험을 완화하고 이점을 활용하는 임무를 수행할 수 있도록 하기 위해 우리는 우리나라가 제공해야 할 최고의 인재가 필요합니다. 그것이 바로 우리가 그들 분야에서 최고인 이 사람들을 미국 AI 안전 연구소 임원 리더십 팀에 합류하도록 선발한 이유입니다," 라고 지나 라이몬도 미국 상무장관이 말했습니다. "우리의 안전과 보안을 강화하고 시민 사회와 기업에 참여하며 동맹국들과 긴밀하게 협력하는 것은 이 세대를 정의하는 기술을 다루는 데 기본입니다. 바이든 대통령의 리더십 덕분에 우리는 이러한 중요한 목표를 달성하는 데 필요한 인재 풀을 배양하고 있습니다."

 브루스 리드 백악관 부비서실장은 "조 바이든 대통령의 지시에 따라 미국 정부는 빠르게 움직이고 있으며 위험을 관리하면서 AI의 약속을 잡기 위해 우리 마음대로 모든 도구를 사용하고 있다"고 말했습니다. "이를 바로잡기 위해 우리가 해야 할 최고의 수단 중 하나는 시민 사회에서 기술 혁신가에 이르기까지 전문가들을 과학자들에게 데려오는 것입니다. 우리는 이 기술에 보조를 맞추고, 우리의 이익을 보호하며, 우리의 가치에 따라 그것을 형성하기 위해 정부 전반에 걸쳐 강력한 팀을 구축하고 있습니다."

"저는 이 재능 있는 전문가들이 안전하고 신뢰할 수 있는 AI의 개발을 지원할 측정 과학을 확립하는 데 도움이 될 미국 AI 안전 연구소 리더십 팀에 온 것을 매우 기쁘게 생각합니다," 라고 상무부 차관과 NIST 국장 로리 E가 말했습니다. 로카시오. "그들은 각각 미래의 인공지능 안전을 위한 견고한 기반을 구축하는 데 도움이 될 독특한 경험을 제공합니다."

폴 크리스티아누 AI 안전 책임자는 국가 안보 우려 역량에 대한 모델 평가를 중심으로 프론티어 AI 모델을 설계하고 테스트를 진행할 예정입니다. Christiano는 또한 이러한 평가 수행에 대한 지침과 프론티어 모델 안전 및 보안 강화를 위한 위험 완화 이행에 대한 지침을 제공할 것입니다. Christiano는 이론적 연구를 발전시켜 미래의 기계 학습 시스템과 인간의 이익을 일치시키려는 비영리 연구 기관인 Alignment Research Center를 설립했습니다. 또한 그는 현재 METR(Model Eval‎uation and Threat Research)에 보관되어 있는 프론티어 모델에 대한 제3자 평가를 수행하기 위한 선도적인 이니셔티브를 시작했습니다. 그는 이전에 Open에서 언어 모델 정렬 팀을 운영했습니다.기반 기술 AI 안전 기법인 인간 피드백(RLHF)에서 강화 학습에 대한 작업을 개척한 AI. 그는 캘리포니아 대학교 버클리에서 컴퓨터 과학 박사 학위를, 매사추세츠 공과대학교에서 수학 학사 학위를 받았습니다.

최고 운영 책임자 겸 비서실장인 마라 퀸테로 캠벨은 AISI 운영 및 활동에 대한 직원 및 의사 결정 조정 및 설계, 실행 및 감독을 담당합니다. 가장 최근에 캠벨은 6개의 지역 사무소와 본부에 걸쳐 300명의 직원들의 내부 업무를 관리했던 미국 상무부 경제개발청(EDA)의 부 최고운영책임자(COO)로 일했습니다. EDA에 있는 동안 캠벨은 주요 프로젝트를 운영하는 일을 맡았습니다. COVID 대응 및 미국 구조 계획법 및 CHIPS 및 과학법 프로그램의 실행을 포함합니다. Campbell은 EDA 이전에 Inter-American Foundation에서 부보좌관과 대리보좌관을 지냈습니다. 그녀는 American University, Washington College of Law에서 법학 학위를 받았고, Bard College에서 정치학 학사 학위를 받았습니다.

최고 비전 책임자인 Adam Russell은 AISI에 대한 비전과 전략을 수립하고 실행하는 데 도움을 줄 것이며, 또한 대외적으로 그 비전을 전달할 것입니다. 러셀(Russell)은 서던캘리포니아(University of Southern California) 대학의 정보 과학 연구소(ISI) AI 부서장입니다. 러셀은 이전에 메릴랜드 대학의 ARLIS(Applied Research Laboratory for Intelligence and Security)에서 인간-AI 팀 구성, 예측 및 집단 지능에 중점을 두었습니다. UMD에 있는 동안, 그는 또한 ARPA-H 보건고등연구계획국(Advanced Research Projects Agency for Health)의 설립을 도왔습니다. UMD와 ARPA-H 이전에 러셀은 10년 넘게 정부에서 일했습니다. 국방고등연구계획국(DARPA)의 프로그램 관리자(Program Manager)로서 사회과학과 AI에 초점을 맞춘 프로그램을 시작하는 것과 지능고등연구계획국(IARPA)의 프로그램 관리자로서 지능을 높이고 신뢰와 신뢰를 측정하는 것에 관한 프로그램을 시작하는 것. 옥스퍼드 대학교에서 사회인류학 박사 학위를 받았으며, 로즈 장학사로 재직 중이며, 듀크 대학교에서 문화인류학 학사 학위를 받았습니다. 

롭 라이히(Rob Reich) 수석 고문은 AIS 안전 연구소에 조언하고 AISI 노력이 다양한 이해 관계자의 피드백과 입력을 반영할 수 있도록 시민 사회 단체와의 참여를 주도할 것입니다. 라이히는 스탠퍼드대 정치학과 교수, 인간중심 AI연구소 부소장, 자선·시민사회센터 공동소장, 사회윤리센터 전 소장 등을 역임하고 있는 스탠퍼드대에서 공직을 떠날 예정입니다. 그는 기술, 윤리 및 정책을 다루는 많은 책을 저술했습니다. 그는 스탠포드 대학에서 교육 철학 박사 학위를, 예일 대학에서 철학 학사 학위를 받았습니다.

마크 라토네로(Mark Latonero) 국제 참여 책임자는 AISI의 국제 협력을 주도하여 지침, 테스트 및 표준 개발에 대한 전 세계적으로 일치된 접근 방식을 달성할 수 있도록 도울 것입니다. 그는 또한 AI 안전을 위한 글로벌 과학 네트워크의 비전을 더욱 발전시키기 위해 상대 정부 기관, 다자 기구, 국제 표준 기구 및 기타 과학 사무소와 파트너십을 확장하기 위해 노력할 것입니다. 라토네로는 가장 최근에 백악관 과학기술정책실의 국가 AI 이니셔티브 사무차장을 맡아 AI 행정명령을 포함한 국제 AI 정책을 주도하고 연방 정부 전반과 민간 부문 및 시민 사회 이해 관계자들과 AI 활동을 조정했습니다. 그는 이전에 NIST에서 AI 및 국제 협력 수석 정책 고문을 역임했으며 AI 위험 관리 프레임워크에서 일했습니다. 그는 또한 사무총장 및 인권 사무소의 유엔 집행부 수석 고문과 AI 파트너십의 수석 정책 고문을 역임했습니다. Latonero는 Southern California 대학에서 신흥 기술의 사회적 영향을 전문으로 박사 학위를 취득했으며 런던 경제 대학에서 박사 후 연구 학자였습니다.