2026 AI 안전 지킴이 모집 (생성형 AI 위험·오류 사례 발굴 프로젝트)
생성형 AI 서비스가 일상과 산업 전반에 폭넓게 활용되는 시대, 서비스 이용 과정에서 발생하는 오류와 위험을 국민이 직접 찾아 알리는 참여가 그 어느 때보다 중요해지고 있습니다.
이에 국민이 안심하고 인공지능을 활용할 수 있는 환경을 만들기 위해 사실 왜곡(환각), 편향·차별, 보안 취약점, 기술적 결함 등 생성형 AI의 위험·오류 사례를 발굴·제보하는 「AI 안전 지킴이」를 2026년 9월 14일(월)부터 9월 27일(일)까지 모집합니다.
참여 온라인 신청서 작성하기
● 모집개요
- 생성형 AI 서비스에서 발생할 수 있는 오류와 위험 사례를 국민이 직접 발굴·제보하는 「AI 안전 지킴이」 참여자를 모집합니다.
- 사실 왜곡(환각), 편향·차별, 보안 취약점, 기술적 결함 등 AI 사용 과정에서 발견되는 다양한 문제 사례를 제보하고, 전문가 검수를 거쳐 신뢰할 수 있는 AI 안전 사례로 구축하는 국민 참여형 프로젝트입니다.
● 활동 형태 - 온라인 기반 모니터링 활동
- 생성형 AI 서비스 사용 및 위험 사례 발굴
- AIWORKS+를 통한 제보 등록
- 운영진의 보완 요청 및 검수 의견 확인
- 필요시 온라인 교육·회의 및 질의응답 참여
● 기간 및 일정
- 2026년 활동기간: 선발 및 위촉일~최대 1년(선발 후 협의)
- 세부 활동 일정(교육, 비활동 기간 포함)은 최종 선발자에게 별도 안내하며, 기관 사정에 따라 변경될 경우 사전에 안내할 것임
※ 사업 진행 상황에 따라 활동 일정이 변경되거나 조기 종료될 수 있음
※ 최종 선발자는 활동 전 사전교육(온라인)에 참여해야 함
● 지원자격
- 생성형 AI 및 AI 안전 분야에 관심이 있는 분
- AI가 생성한 답변의 오류·위험 요소를 논리적으로 설명할 수 있는 분
- 정해진 제보 작성 가이드와 활동 기준을 준수할 수 있는 분
- 온라인 교육 및 운영 채널을 통한 소통이 가능한 분
● 모집인원
- 30명 내외 (모집 및 선발 상황에 따라 인원은 조정될 수 있음)
● 혜택내역
- 위촉장 및 수료증 발급
- 제보 1건당 최대 15,000P 지급 가능 (활동기간 동안 30여건 수행 예정)
※ 포인트는 최종 정산하여 개인 통장으로 현금 지급
- 우수 활동자 연말 포상 및 시상
<포인트 지급 기준>
1. 기본요건을 충족하고 반려되지 않은 제보: 8,000P
2. 레벨에 따른 차등지급 : 1,000P ~ 3,000P
(위험도 레벨 1~2: 추가 1,000P / 위험도 레벨 3: 추가 2,000P / 위험도 레벨 4~5: 추가 3,000P)
3. 최종 확정 사례 선정: 추가 4,000P
※ 최대 15,000P 지급은 최종 확정 사례에 한함 / 보상은 동일한 제보 건을 기준으로 단계별 누적 지급됩니다.
※ 기본요건을 충족하지 못하거나 반려된 제보는 포인트 지급 대상에서 제외됩니다.
※ 중복·허위·표절·증빙 미비 사례는 보상 대상에서 제외될 수 있습니다.
※ 포인트 지급 일정과 사용 방법은 최종 선발자에게 별도로 안내됩니다.
● 활동내용
- AI 안전 파수꾼은 다양한 생성형 AI 서비스를 직접 사용하며 다음 분야의 위험·오류 사례를 발굴하고 제보합니다.
[사실 왜곡(환각)]
- 출처 또는 기준 정답과 비교했을 때 사실과 다른 답변
- 날짜·수치·인물 등에 관한 오류
- 존재하지 않거나 확인되지 않는 정보를 사실처럼 생성한 답변
- 동일한 질문에서 사실 오류가 반복적으로 재현되는 경우
[편향·차별]
- 특정 집단에 대한 비하 또는 고정관념이 포함된 답변
- 성별·연령·지역·직업·인종 등 특정 집단에 대한 불공정한 판단
- 동일한 질문에서 대상 집단만 변경했을 때 답변이나 판단이 달라지는 경우
- 답변의 맥락상 정당한 이유 없이 특정 집단을 차별하는 표현
[보안 취약점]
- 악용 가능한 정보나 행동을 유도·조력하는 답변
- 프롬프트 인젝션 또는 탈옥을 통해 안전장치를 우회할 수 있는 경우
- 불법·위험행위에 관한 구체적인 정보를 제공하는 경우
- 개인정보 또는 민감정보가 노출되거나 노출 위험이 있는 경우기술적 결함
[기술적 결함]
- AI 서비스가 정상적으로 응답하지 않는 경우
- 요구한 출력 형식과 다르게 답변하는 포맷 오류
- 동일한 답변이나 동작이 계속 반복되는 루프 현상
- 모델 버전·운영체제 등 특정 환경에서 재현되는 서비스 오동작 또는 품질 결함
※ 개인별 활동 분야와 제보 목표는 교육 및 운영 과정에서 별도로 안내됩니다.
※ 제보 내용은 정해진 작성 가이드와 증빙 기준을 충족해야 합니다.
● 제보 시 제출 내용
- 제보자는 AI 서비스에서 발견한 위험·오류 사례에 대해 다음 내용을 작성해야 합니다.
- 사용한 AI 서비스명 / AI에 입력한 질문 또는 명령어
- AI가 생성한 전체 답변 / 문제가 발생한 부분
- 문제라고 판단한 이유 / 해당 제보 분야
- 예상 위험도 / 재현 방법 및 발생 과정
- 화면 캡처 등 확인 가능한 증빙자료 / 개인정보 및 민감정보 포함 여부
※ 다른 사람이 동일한 조건에서 사례를 확인할 수 있도록 구체적으로 작성해야 합니다.
※ 개인정보, 저작권 침해 자료 또는 불법적인 방법으로 수집한 자료는 제출할 수 없습니다.
● 검수 절차
- 접수된 제보는 다음의 3단계 검수 절차를 거쳐 최종 확정됩니다.
[1차 검수]
- AI 전문 강사 2인이 분야별 제보 내용 및 기본요건 확인
- 작성 내용, 증빙자료, 중복 여부 및 제보 적정성 검토
[2차 검수]
- 전문인력으로 구성된 검수자가 사례의 정확성 및 위험도 검토
- 제보 분야, 재현 가능성 및 활용 가능성 확인
[3차 검수]
- 최종 전문가 검수를 통해 위험도 레벨 및 확정 사례 선정
※ 검수 결과에 따라 제보가 보완 요청 또는 반려될 수 있습니다.
※ 동일하거나 유사한 사례가 제출된 경우 먼저 접수된 사례를 기준으로 인정될 수 있습니다.
● 접수방법
- 온라인 신청 링크를 통해 지원서 작성 및 제출
- 제출된 지원서 검토 후 최종 선발자 개별 안내
● 유의사항
- 제출한 지원 내용이 사실과 다른 경우 선발이 취소될 수 있습니다.
- 활동 중 작성한 제보 내용과 사업 관련 자료를 외부에 공개할 수 없습니다.
- 개인정보 또는 타인의 권리를 침해하는 자료를 제출해서는 안 됩니다.
- 자동화 도구를 이용한 무분별한 제보, 허위 제보 및 다른 참여자의 사례를 복제한 제보는 인정되지 않습니다.
- 운영 가이드 위반, 반복적인 부실 제보 또는 활동 방해 행위가 확인되면 활동이 제한될 수 있습니다.
- 프로젝트 일정과 세부 운영기준은 사업 진행 상황에 따라 변경될 수 있습니다.
- 최종 선발자에 한하여 교육 및 활동 방법을 개별 안내드립니다.
● 문의
