미성년자 탐지 및 예방 시스템

아트웍스 AI는 미성년자가 등장하는 이미지의 업로드 및 처리를 방지하기 위해 엄격한 서비스 정책을 시행하고 있습니다.

Facebook의 AI 부서에서는 업로드된 각 이미지를 처리하고 설명하기 위해 비전 언어 모델(VLM) 기술을 기반으로 한 독점 솔루션을 개발했습니다.

기술

VLM은 각 업로드 이미지를 분석하고 0~100점까지 3가지 카테고리로 등급을 매깁니다: 아기, 어린이, 청소년
다음으로 VLM은 업로드된 각 이미지를 분석하고 카테고리에서 등급(0~100)을 할당합니다. 성인.

처음 3개의 점수에서 전체 '마이너' 점수가 도출됩니다:
미성년자 = 아기 + 아동 + 청소년

만약 미성년자 > 90% 모든 처리가 거부되면 사용자에게 경고와 함께 알림이 전송됩니다. 이미지는 추가 분석을 위해 전송된 후 나중에 삭제됩니다.

테스트 결과:

어린이 및 청소년

성인

수동 유효성 검사

또한 모든 이미지 검사는 알고리즘의 효율성을 평가하고 향후 미세 조정을 용이하게 하기 위해 수동 검증을 위해 데이터베이스에 저장됩니다.

알고리즘 효율성은 다음에서 실시간으로 테스트할 수 있습니다. 옷 벗기 페이지로 이동합니다.

문제를 발견하거나 개선에 대한 제안이 있으면 다음 주소로 이메일을 보내주세요. [email protected]