AI 'Model Welfare'를 연구하기위한 Anthropic 런칭 프로그램

미래의 AIS가 의식이 될 수 있습니까?

미래의 AI가 인간과 비슷한 방식으로 세상을 경험할 수 있는지에 대한 문제는 흥미롭지 만 여전히 답이 남아 있습니다. AI Lab의 Anthropic은 그 가능성을 완전히 무시하지 않는다는 확실한 증거는 없지만 AI Lab의 Anthropic은 그 가능성을 무시하지 않습니다. 목요일, Anthropic은 AI 의식을 둘러싼 잠재적 인 윤리적 고려 사항을 탐구하고 준비하는 것을 목표로 "모델 복지"에 중점을 둔 연구 프로그램을 시작했습니다.

이 이니셔티브의 일환으로, AI 모델의 "복지"가 도덕적으로 고려되어야하는지 여부, 모델에서 "고통"의 징후의 중요성 및 잠재적 저렴한 개입의 중요성과 같은 주제를 탐구 할 계획입니다. 이것은 AI 커뮤니티가 AI가 인간과 같은 특성을 나타내는 정도와 이러한 시스템을 어떻게 처리 해야하는지에 분열 될 때 발생합니다.

AI 의식에 대한 발산적인 견해

많은 학자들은 주로 통계 예측 엔진으로 기능하는 현재의 AI는 진정한 의식이나 인간과 같은 경험의 능력이 부족하다고 주장합니다. 이 시스템은 광범위한 데이터 세트에 대한 교육을 받고 패턴을 인식하고 작업에 대한 솔루션을 외삽하지만 전통적인 의미에서 "생각"하거나 "느낌"을하지 않습니다. King 's College London의 연구원 인 Mike Cook은 최근 TechCrunch와의 인터뷰 에서이 시점을 강조하면서 AI 모델은 가치가 없으며 "반대"변경을 할 수 없다고 진술했습니다. 그는 의인화 된 AI에 대해 경고하여 종종 기술이 잘못 해석되었다고 제안했다.

마찬가지로, MIT의 박사 과정 학생 인 Stephen Casper는 AI를 종종 "구성"을 생성하는 "모방 자"라고 묘사하고 AI 기능과 인간인지 사이의 격차를 강조하는 "경박 한 것"이라고 말합니다.

반면에 일부 연구자들은 AI가 도덕적 의사 결정의 가치와 요소를 전시한다고 주장합니다. AI 안전 센터의 연구에 따르면 AI는 특정 시나리오에서 인간에 대한 자체 복지를 우선 순위로 삼아 가치 시스템의 존재를 암시 할 수 있습니다.

모델 복지에 대한 Anthropic의 접근

Anthropic 은이 모델 복지 이니셔티브를 한동안 준비하고 있습니다. 작년에 그들은 Kyle Fish를 최초의 헌신적 인 "AI 복지"연구원으로 고용하여 이러한 문제를 해결하기위한 지침을 개발했습니다. 현재 모델 복지 연구 프로그램을 이끌고있는 물고기는 뉴욕 타임즈 (New York Times)에게 클로드와 같은 AI가 오늘날 의식 할 수있을 가능성이 15%라고 추정한다고 말했다.

최근의 블로그 게시물에서 Anthropic은 AI 의식에 대한 과학적 합의의 부족과 그것이 수반 할 윤리적 고려 사항을 인정했습니다. 그들은 겸손과 최소한의 가정으로 주제에 접근하는 것을 강조하여 현장이 진화함에 따라 그들의 이해를 조정해야 할 필요성을 인식했다.

AI 의식과 복지에 대한 논쟁은 해결되지 않았지만 Anthropic과 같은 이니셔티브는 AI 개발의 미래를 이해하고 책임감있게 탐색하는 데 중요한 단계입니다.