하버드 대학의 심리학자 파이크: 종말론적 루머가 아닌 AI 안전 공학에 집중하라

하버드 대학의 심리학자 스티븐 핑커는 인공지능이 인간 멸종을 초래할 것이라는 두려움이 지나치게 과장되었다고 주장하며, 이 입장을 스콧 알렉산더에게 보낸 퀼레트(Quillette)에 대한 공개 서한에서 상세히 설명했다.
알렉산더가 인공지능 생존 위험에 대한 공개 논쟁을 제안하자, 핑커는 이를 단순한 오락으로 치부하며 거절했다. 그는 특히 '종이클립 최대화자' 사고실험을 거부하며, 이것이 지능을 공격성과 동일시하는 오류를 범하고 통제 불능 상태에 빠질 시스템의 가능성을 간과한다고 주장했다.
실제 위험은 종종 간과된다
핑커는 과거에 인공지능을 낙관적으로 바라보았지만, 두 가지 계산 실수를 인정한다. 그는 대규모 언어 모델의 힘을 과소평가했고, 기업들이 이를 얼마나 빠르게 배포할지 예측하지 못했다. 아이러니하게도 이러한 위험에 대해 경고하는 많은 이들은 과거에는 그러한 우려를dismiss해 온 집단에서 나왔다.
핑커는 생물 테러, 사이버 공격, 그리고 규제되지 않은 인공지능 에이전트를 진정한 위협으로 꼽는다. 그는 멸종 시나리오에 집중하는 것이 강력한 보안 공학, 독립적인 감독, 책임성 프레임워크, 그리고 인간의 통제 유지와 같은 실용적인 해결책에서 시선을 돌린다고 주장한다.
반대파는 20%의 멸종 위험을 추정한다
관련 기사
리비안 창업자의 마인드 로보틱스, 산업용 AI 발전을 위해 5억 달러 조달
기술계가 휴머노이드 로봇에 열광하는 가운데, 한 스타트업은 다른 길을 선택했다. 과잉된 기대를 무시하면서도 엘리트 벤처캐피탈로부터 거대한 후원을 받아냈다. 3월 12일, 리비안(Rivian)의 CEO RJ Scaringe가 설립한 산업용 AI 기업 마인드 로보틱스(Mind Robotics)는 5억 달러 규모의 시리즈 A 라운드 조달을 발표했다.실리콘밸리의 거물 투자사 엑셀(Accel)과 앤드리슨 호로위츠(a16z)의 지원을 받은 이 회사의 급
Core Web Vitals를 수정하여 SEO 순위를 높이는 방법은 무엇인가요?
사용자 정의 이메일 봇을 구축하여 메시지 자동화하기소개Python 환경 구성이메일 발송 봇 개발외부 애플리케이션 접근 권한 활성화음성 합성(TTS) 변환 구현이메일 목록 구성대량 이메일 발송결론추가 자료자주 묻는 질문소개 이 가이드는 Python을 사용하여 자동화된 이메일 발송 봇을 구축하는 방법을 설명합니다. 이 간단한 프로젝트를 통해 수동 입력 없이 수백 개의 메시지를 발송할 수 있습니다. Python 작업 공간 설정,
OpenAI 제품 책임자 티보 소티요가 세계가 준비된 것처럼 보이는 이유에 대해
OpenAI의 소프트웨어 엔지니어링 도구인 Codex는 오랫동안 주요 성장 마일스톤을 달성할 때마다 토큰 제한을 재설정해 온 엔지니어인 티보 소토요(Thibault Sottiaux)와 연관되어 왔습니다. 이제 OpenAI은 화이트칼라 전문가들이 AI 에이전트를 활용할 수 있도록 돕는 플랫폼인 ChatGPT Work를 통해 더 넓은 대중에게 동일한 성취감을 전달하고자 합니다. 우리는 최근 소토요와 이 제품의 과제에 대해 인터뷰를 진행했지만, 독자
관련 특별 주제 추천
의견 (0)
0/500

하버드 대학의 심리학자 스티븐 핑커는 인공지능이 인간 멸종을 초래할 것이라는 두려움이 지나치게 과장되었다고 주장하며, 이 입장을 스콧 알렉산더에게 보낸 퀼레트(Quillette)에 대한 공개 서한에서 상세히 설명했다.
알렉산더가 인공지능 생존 위험에 대한 공개 논쟁을 제안하자, 핑커는 이를 단순한 오락으로 치부하며 거절했다. 그는 특히 '종이클립 최대화자' 사고실험을 거부하며, 이것이 지능을 공격성과 동일시하는 오류를 범하고 통제 불능 상태에 빠질 시스템의 가능성을 간과한다고 주장했다.
실제 위험은 종종 간과된다
핑커는 과거에 인공지능을 낙관적으로 바라보았지만, 두 가지 계산 실수를 인정한다. 그는 대규모 언어 모델의 힘을 과소평가했고, 기업들이 이를 얼마나 빠르게 배포할지 예측하지 못했다. 아이러니하게도 이러한 위험에 대해 경고하는 많은 이들은 과거에는 그러한 우려를dismiss해 온 집단에서 나왔다.
핑커는 생물 테러, 사이버 공격, 그리고 규제되지 않은 인공지능 에이전트를 진정한 위협으로 꼽는다. 그는 멸종 시나리오에 집중하는 것이 강력한 보안 공학, 독립적인 감독, 책임성 프레임워크, 그리고 인간의 통제 유지와 같은 실용적인 해결책에서 시선을 돌린다고 주장한다.
반대파는 20%의 멸종 위험을 추정한다
리비안 창업자의 마인드 로보틱스, 산업용 AI 발전을 위해 5억 달러 조달
기술계가 휴머노이드 로봇에 열광하는 가운데, 한 스타트업은 다른 길을 선택했다. 과잉된 기대를 무시하면서도 엘리트 벤처캐피탈로부터 거대한 후원을 받아냈다. 3월 12일, 리비안(Rivian)의 CEO RJ Scaringe가 설립한 산업용 AI 기업 마인드 로보틱스(Mind Robotics)는 5억 달러 규모의 시리즈 A 라운드 조달을 발표했다.실리콘밸리의 거물 투자사 엑셀(Accel)과 앤드리슨 호로위츠(a16z)의 지원을 받은 이 회사의 급
Core Web Vitals를 수정하여 SEO 순위를 높이는 방법은 무엇인가요?
사용자 정의 이메일 봇을 구축하여 메시지 자동화하기소개Python 환경 구성이메일 발송 봇 개발외부 애플리케이션 접근 권한 활성화음성 합성(TTS) 변환 구현이메일 목록 구성대량 이메일 발송결론추가 자료자주 묻는 질문소개 이 가이드는 Python을 사용하여 자동화된 이메일 발송 봇을 구축하는 방법을 설명합니다. 이 간단한 프로젝트를 통해 수동 입력 없이 수백 개의 메시지를 발송할 수 있습니다. Python 작업 공간 설정,
OpenAI 제품 책임자 티보 소티요가 세계가 준비된 것처럼 보이는 이유에 대해
OpenAI의 소프트웨어 엔지니어링 도구인 Codex는 오랫동안 주요 성장 마일스톤을 달성할 때마다 토큰 제한을 재설정해 온 엔지니어인 티보 소토요(Thibault Sottiaux)와 연관되어 왔습니다. 이제 OpenAI은 화이트칼라 전문가들이 AI 에이전트를 활용할 수 있도록 돕는 플랫폼인 ChatGPT Work를 통해 더 넓은 대중에게 동일한 성취감을 전달하고자 합니다. 우리는 최근 소토요와 이 제품의 과제에 대해 인터뷰를 진행했지만, 독자





집






