1_10_07 윤리 · 개인정보 · 보안 · 생성형 AI 안전 활용

[삐돌이]

01. AI 윤리 준수 (Ethics)

AI가 도출한 결과물을 비판 없이 수용하지 않고, 사회적 가치와 인권을 침해하지 않도록 기준을 세우는 단계입니다.

• 편향 없는 공정한 활용: 학습 데이터에 내재된 특정 인종, 성별, 종교, 지역 등에 대한 고정관념이나 차별적 시각이 결과물에 반영되지 않도록 점검합니다.

• 인간 중심의 가치 존중: AI는 인간의 판단과 역량을 보조하는 수단이며, 최종 의사결정의 주체와 책임은 인간에게 있음을 명확히 합니다.

• 출처 및 저작권 확인: AI가 생성한 이미지, 텍스트, 코드 등이 타인의 저작권을 침해하지 않는지 검토하고, 필요한 경우 라이선스 규정을 준수하며 AI 생성물임을 명시합니다.

02. 개인정보 보호 (Privacy)

생성형 AI 모델에 입력된 프롬프트 데이터가 외부로 유출되거나 재학습에 사용되는 위험을 차단하는 단계입니다.

• 민감 정보 입력 금지: 주민등록번호, 연락처, 주소, 금융 정보, 사적 대화 기록 등 개인 식별이 가능한 모든 정보를 프롬프트 창에 입력하지 않습니다.

• 개인정보 비식별화: 작업상 실제 데이터를 참조해야 할 경우 가명 처리(홍길동, User A 등)나 마스킹(010-XXXX-XXXX) 기법을 거친 후 입력합니다.

• 데이터 수집 및 이용 동의 확인: 업무상 타인의 정보를 AI로 가공할 때 정보 주체의 수집·이용 동의가 적법하게 확보되었는지 사전 확인합니다.

03. 정보보안 강화 (Security)

기업 및 조직의 디지털 자산과 중요 기밀이 AI 서비스 인터페이스를 통해 유출되는 보안 사고를 방지하는 단계입니다.

• 기업·공공 기밀정보 유출 방지: 미공개 비즈니스 전략, 내부 재무제표, 소스코드 원본, 고객사 계약서 등 대외비 문서 입력을 엄격히 금지합니다.

• 악성코드 및 피싱 주의: AI가 제안한 외부 라이브러리, 패키지 링크, 코드 스니펫에 보안 취약점이나 악성 스크립트가 포함되어 있을 가능성을 항상 경계합니다.

• 정기적인 시스템 보안 점검: 조직 내 AI 활용 시 프롬프트 데이터의 학습 활용 비활성화(Opt-out) 설정 여부를 점검하고, 접근 권한 관리 정책을 주기적으로 업데이트합니다.

04. 안전한 생성형 AI 활용 (Safety & Practice)

생성형 AI의 기술적 한계를 인지하고, 실무에서 안전하고 신뢰도 높은 결과물을 도출하기 위한 실행 가이드입니다.

• 생성 결과물의 사실 여부 검증 (환각 현상 주의): 모델이 사실이 아닌 내용을 그럴듯하게 꾸며내는 '환각(Hallucination)' 가능성을 염두에 두고, 숫자·통계·법률 조항·인용문은 공신력 있는 원천 자료를 통해 교차 검증합니다.

• 책임감 있는 콘텐츠 생성: 가짜 뉴스, 딥페이크, 명예훼손, 음해성 콘텐츠 등 사회적 혼란을 야기할 수 있는 유해한 콘텐츠 생성 행위를 스스로 차단합니다.

• 올바른 프롬프트 사용 가이드: 구체적인 맥락(Context), 원하는 역할(Persona), 출력 형식(Format), 제약 조건(Constraints)을 명확히 설정하여 오작동과 오류를 최소화합니다.