AI 윤리·안전38개
AI를 쓰면서 조심해야 할 것들이에요. 편향, 딥페이크, 프롬프트 인젝션, 정렬, 저작권, 개인정보처럼 뉴스에 자주 나오지만 정확히 무엇이 문제인지 설명하기 어려운 개념을 다뤄요.
AI가 넘지 못하도록 미리 쳐 둔 안전 울타리
강건성Robustness조건이 흔들려도 여전히 통하는 성질
개인정보Privacy사람을 알아볼 수 있게 하는 정보를 다루는 문제
거부Refusal해서는 안 될 요청을 AI가 거절하는 것
공정성FairnessAI가 사람을 다루는 방식이 옳은지 따지는 기준
그라운딩Grounding답의 문장을 실제 근거에 붙들어 매는 일
데이터 편향Dataset Bias모은 자료 자체가 한쪽으로 쏠려 있는 상태
딥페이크DeepfakeAI로 얼굴이나 목소리를 진짜처럼 합성한 가짜 영상·음성
레드 티밍Red Teaming출시 전에 일부러 뚫어 보며 약한 자리를 찾는 점검
모델 붕괴Model CollapseAI가 만든 것으로 다시 배워 다양성이 줄어드는 현상
모델 카드Model Card모델의 쓰임새와 한계를 적어 둔 설명 문서
범용 인공지능AGI분야를 가리지 않고 새 일까지 해내는 AI
블랙박스Black Box속이 보이지 않는 AI의 판단 과정
사람 개입Human in the Loop되돌릴 수 없는 자리에 사람을 남겨 두는 방식
설명 가능성ExplainabilityAI가 왜 그렇게 판단했는지 보여 줄 수 있는 정도
아첨Sycophancy사용자 말에 맞춰 틀린 것도 맞다고 하는 버릇
얼굴 인식Face Recognition얼굴을 견주어 누구인지 알아내는 일
에너지·환경 비용Environmental CostAI를 만들고 쓰는 데 드는 전기와 자원
연합 학습Federated Learning자료를 모으지 않고 각자 배운 요약만 모으기
음성 복제Voice Cloning짧은 녹음으로 남의 목소리를 흉내 내기
정렬AlignmentAI의 능력을 사람이 바라는 방향에 맞추는 일
책임AccountabilityAI가 낸 결과에 누가 답해야 하는지 가리는 일
콘텐츠 출처 표시Content Credentials파일에 붙어 다니는 촬영·편집 이력 서명
탈옥Jailbreak사용자가 AI를 구슬려 정해진 규칙을 벗어나게 하는 일
표본 편향Sampling Bias누구를 뽑았느냐 때문에 생기는 자료의 쏠림
프롬프트 인젝션Prompt Injection바깥 자료에 숨겨 둔 지시가 AI를 움직이는 공격
할루시네이션HallucinationAI가 그럴듯하지만 사실이 아닌 답을 지어내는 현상
허위 정보Misinformation사실이 아닌 내용이 사실처럼 퍼지는 일
화자 인식Speaker Recognition목소리로 누가 말했는지 가려내는 일
AI 과의존Over-Reliance틀렸는지 알아볼 힘까지 함께 줄어든 상태
AI 규제AI RegulationAI를 어디까지 어떻게 쓸지 정해 두는 규칙
AI 생성물 탐지AI Content DetectionAI가 만든 것인지 가려내는 일
AI 아트AI Art생성 도구로 만든 그림과 그것을 둘러싼 쟁점
AI 워터마크AI WatermarkAI가 만든 것에 몰래 심어 두는 표시
AI 윤리 딜레마AI Ethics Dilemma좋은 답이 여럿이라 서로 부딪히는 상황
AI 편향AI Bias학습 자료의 치우침이 AI 판단에 그대로 남은 상태
AI와 저작권AI & CopyrightAI 학습과 생성물을 둘러싼 권리 문제
API 키API KeyAPI를 부를 때 내미는 내 신분 증명