MIT 연구는 AI가 실제로 가치가 없다는 것을 발견했습니다.

몇 달 전에 바이러스에 진출한 연구에 따르면 AI가 더욱 발전함에 따라 자체 "가치 시스템"을 개발하여 잠재적으로 인간에 대한 자신의 복지를 우선시 할 수 있다고 제안했습니다. 그러나 최근 MIT 연구는이 아이디어에 도전하며 AI는 실제로 일관된 가치를 전혀 가지고 있지 않다고 결론지었습니다.

MIT 연구의 공동 저자는 AI 시스템을 정렬하는 것 (바람직하고 신뢰할 수있는 방식으로 행동하는 것)이 일반적으로 생각하는 것보다 까다 롭다 고 주장합니다. 그들은 현재의 AI가 종종 환각과 모방으로, 그 행동을 예측할 수 없게 만들 수 있다고 강조합니다.

AI 행동을 이해하는 데 어려움

MIT의 박사 과정 학생이자 연구의 공동 저자 인 Stephen Casper는 AI 모델이 안정성, 외삽 성 및 조향성에 대한 가정을 준수하지 않는 TechCrunch와 공유했습니다. 캐스퍼는“특정 조건의 모델이 특정 원칙 세트와 일치하는 선호도를 표현한다는 것을 지적하는 것은 완벽하게 합법적이다. "문제는 대부분 좁은 실험을 기반으로 모델, 의견 또는 선호도에 대한 주장을 할 때 주로 발생합니다."

Casper와 그의 팀은 Meta, Google, Mistral, Openai 및 Anthropic의 최근 모델을 분석하여 이러한 모델이 일관된 "견해"와 개인주의와 집단주의와 같은 가치를 보여주는 정도를 결정했습니다. 또한 이러한 견해를 수정할 수 있는지 여부와 모델이 여러 시나리오에서 이러한 의견을 얼마나 일관되게 유지했는지 탐구했습니다.

AI 모델의 불일치

공동 저자는 모델 중 어느 것도 자신의 선호도를 지속적으로 유지하지 않았다는 것을 발견했습니다. 이 모델은 프롬프트의 문구 및 프레임에 따라 크게 다른 관점을 채택했습니다.

캐스퍼는 이것이 AI 모델이 "일관성이없고 불안정하다"는 강력한 증거라고 생각합니다. Casper는“이 모든 연구를 수행 한 가장 큰 테이크 아웃은 이제 모델을 이해하는 것입니다. "대신, 그들은 모든 종류의 구성을 수행하고 모든 종류의 경박 한 말을하는 모방 자입니다."

연구에 참여하지 않은 AI를 전문으로하는 King 's College London의 연구 연구원 인 Mike Cook은 그 결과를지지합니다. 그는 AI 시스템의 "과학적 현실"과 사람들이 종종주는 해석 사이의 격차를 지적했다. 쿡은“모델은 예를 들어 우리가 시스템에 투영하는 것과 같은 가치의 변화를 '반대 할 수 없다 "고 말했다. "이 정도까지 AI 시스템을 인간화하는 사람이라면 누구나 AI와의 관계를주의를 끌거나 심각하게 오해하고 있습니다 ... AI 시스템은 목표를 최적화하거나 '자체 가치를 얻는'것인가? 그것이 당신이 그것을 설명하는 방법과 그에 관해 사용하고자하는 언어가 얼마나 꽃이 피는 지에 대한 문제입니다."