연구 : OpenAI 모델은 저작권이있는 컨텐츠를 암기합니다

최근의 연구에 따르면 OpenAi는 실제로 AI 모델 중 일부를 훈련시키기 위해 저작권이있는 자료를 사용하여 회사가 직면 한 진행중인 법적 전투에 연료를 추가했을 수 있습니다. 저자, 프로그래머 및 기타 컨텐츠 제작자는 AI 모델을 개발할 수있는 권한없이 OpenAi가 책과 코드와 같은 작품을 사용했다고 비난했습니다. OpenAi는 공정한 사용을 주장함으로써 스스로 방어했지만 원고는 미국 저작권법이 교육 데이터에 대한 예외를 제공하지 않는다고 주장합니다.

이 연구는 워싱턴 대학교, 코펜하겐 대학교 (University of Copenhagen)와 스탠포드 (Stanford)의 연구원들 사이의 협력에 대한이 연구는 OpenAI의 API와 같은 API를 통해 액세스 한 모델에서 "암기 된"훈련 데이터를 감지하는 새로운 기술을 소개합니다. AI 모델은 본질적으로 방대한 양의 데이터로부터 패턴을 인식하여 에세이, 이미지 등을 생성 할 수 있도록합니다. 대부분의 출력은 교육 데이터의 직접 사본이 아니지만 일부는 학습 과정에 기인합니다. 예를 들어, 이미지 모델은 영화 스크린 샷을 재현하는 것으로 알려져 있으며 언어 모델은 본질적으로 뉴스 기사를 표절했습니다.

이 연구에 설명 된 방법은 "고생기"단어, 즉 주어진 맥락에서 특이한 단어에 중점을 둡니다. 예를 들어, "Jack과 나는 레이더 허밍과 함께 완벽하게 앉아 있었고" "레이더"는 "엔진"또는 "무선"과 같은 단어보다 "허밍"보다 우선하기 때문에 높은 수면 단어가 될 것입니다.

연구원들은 소설 책과 뉴욕 타임즈 기사의 발췌문에서 높은 수면 단어를 제거하고 모델에 이러한 누락 된 단어를 예측하도록 요청함으로써 GPT-4 및 GPT-3.5를 포함한 몇 가지 OpenAI 모델을 테스트했습니다. 모델이 단어를 정확하게 추측했다면, 훈련 중에 텍스트를 외우 었다고 제안했습니다.

워싱턴 대학교의 박사 과정 학생 이자이 연구의 공동 저자 인 Abhilasha Ravichander는 이러한 결과가 이러한 모델을 훈련시키는 데 사용될 수있는 "논쟁적인 데이터"를 강조했다고 TechCrunch에 강조했다. Ravichander는“신뢰할 수있는 큰 언어 모델을 갖기 위해서는 과학적으로 조사하고 감사하고 조사 할 수있는 모델이 필요합니다. "우리의 작업은 대형 언어 모델을 조사하는 도구를 제공하는 것을 목표로하지만 전체 생태계에서 더 큰 데이터 투명성이 필요합니다."

OpenAI는 저작권이있는 데이터를 사용하여 AI 모델을 개발하는 데있어보다 편안한 규칙을 추진했습니다. 회사는 콘텐츠 라이센스 계약을 맺고 있으며 저작권 보유자를위한 옵트 아웃 옵션을 제공하지만 AI 교육을위한 "공정 사용"규칙을 수립하기 위해 다양한 정부를 로비했습니다.