AI는 '공동 과학자'로 준비되지 않았다고 전문가들은 말한다

Google은 최근 과학자들이 가설과 연구 계획을 생성 할 수 있도록 AI 도구 인 "AI Co-Secientist"를 소개했습니다. 이 회사는 새로운 지식을 발견하기위한 게임 체인저로서이를 과장했지만 전문가들은 실제 영향에 대해 회의적입니다.

MIT의 컴퓨터 비전 연구원 인 Sara Beery는 TechCrunch와의 인터뷰에서“이 예비 도구는 흥미롭지 만 심각하게 사용되지 않는 것 같습니다. "나는 과학계로부터 이러한 유형의 가설 생성 시스템에 대한 수요가 있는지 확신하지 못한다."

Google은 AI가 과학적 연구, 특히 생물 의학과 같은 데이터가 많은 분야에서 혁명을 일으킬 것이라고 주장하는 최신 기술 거인 일뿐입니다. Openai CEO Sam Altman은 올해 초 에세이에서 "Superintelligent"는 "과학적 발견과 혁신을 막을 수있다"고 썼다. 마찬가지로, Anthropic CEO Dario Amodei는 AI가 대부분의 암에 대한 치료법을 개발하는 데 도움이 될 수 있다고 예측했습니다.

그러나 많은 연구자들은 오늘날의 AI 도구가 이러한 야심 찬 주장에 미치지 못한다고 생각합니다. 그들은 Google의 AI 공동 과학자와 같은 응용 프로그램이 약속을 뒷받침 할 경험적 데이터가 부족하여 물질보다 과대 광고에 관한 것이라고 주장합니다.

예를 들어, AI 공동 과학자에 대한 Google의 블로그 게시물은 골수에 영향을 미치는 혈액 암 유형 인 급성 골수성 백혈병에 대한 약물 용도의 잠재력에 대해 자랑했습니다. 그러나 애리조나의 노스 웨스트 메디컬 센터-튜손 (Northwest Medical Center-Tucson)의 병리학자인 Favia Dubyk에 따르면 그 결과는 너무 모호했다.

Dubyk는 TechCrunch에 "연구원들에게는 좋은 출발점이 될 수 있지만 세부 사항 부족은 걱정스럽고 그것을 신뢰하도록 빌려주지 않습니다"라고 말했다. "제공된 정보 부족은 이것이 진정으로 도움이 될 수 있는지 이해하기 어렵게 만듭니다."

Google이 다른 사람들이 결과를 복제 할 수있는 충분한 세부 사항을 제공하지 않고 AI 혁신을 촉진 한 것에 대해 Google이 과학계의 비판에 직면 한 것은 이번이 처음이 아닙니다.

2020 년에 Google은 AI 시스템 중 하나가 유방 종양을 감지하도록 훈련을 받았으며 인간 방사선 전문의를 능가했다고 주장했다. 그러나 하버드와 스탠포드 (Stanford)의 연구원들은 자연의 반박을 발표하면서 구글 연구에서 상세한 방법과 코드가 부족하다는 것이 "과학적 가치를 손상시켰다"고 주장했다.

과학자들은 또한 Google을 재료 엔지니어링과 같은 분야에서 AI 도구의 한계를 경시 한 것으로 비판했습니다. 2023 년 에이 회사는 AI 시스템 인 그놈의 도움으로 약 40 개의 "새로운 재료"가 합성되었다고 주장했다. 그러나 독립적 인 분석에 따르면 이러한 재료 중 어느 것도 실제로 새로운 것이 아님을 발견했습니다.

로체스터 기술 연구소 (Rochester Institute of Technology)의 소프트웨어 엔지니어링 조교수 인 Ashique Khudabukhsh는“우리는 Google의 '공동 과학자'와 같은 도구의 강점과 제한을 진정으로 이해하지 못할 것입니다. "AI는 종종 제어 된 환경에서 잘 작동하지만 규모로 적용될 때 실패 할 수 있습니다."

복잡한 프로세스

과학적 발견을 돕기위한 AI 도구를 개발하는 것은 작품에 렌치를 던질 수있는 모든 요소를 ​​예측하기가 어렵 기 때문에 까다 롭습니다. AI는 거대한 가능성 목록을 살펴 보는 데 유용 할 수 있지만, 주요 획기적인 문제 해결을 처리 할 수 ​​있는지 여부는 명확하지 않습니다.

Kudabukhsh는“우리는 역사 전반에 걸쳐 mRNA 백신의 발달과 같은 가장 중요한 과학적 발전이 회의론에 직면 한 인간의 직관과 인내에 의해 주도된다는 것을 보았다”고 말했다. "AI는 오늘날에있는 것처럼 그것을 복제하기에 적합하지 않을 수 있습니다."

일본 소니 컴퓨터 과학 연구소의 AI 연구원 인 Lana Sinapayen은 Google의 AI 공동 과학자와 같은 도구가 과학 작업의 잘못된 측면에 초점을 맞추고 있다고 믿고 있습니다.

Sinapayen은 새로운 학술 문헌을 요약하거나 보조금 신청서를 작성하는 것과 같이 지루한 작업을 자동화 할 수있는 AI에서 가치를보고 있습니다. 그러나 그녀는 많은 연구자들이 지적으로 보람있는 것을 발견하는 과제 인 가설을 생성하는 AI 공동 과학자에 대한 요구가 거의 없다고 주장한다.

Sinapayen은 TechCrunch에“많은 과학자들에게 가설을 세우는 것이 가장 재미있는 부분이라고 포함한다. "왜 나는 내 재미를 컴퓨터에 아웃소싱하고 나 자신을하기 위해 열심히 일하는 것만으로 남겨두고 싶습니까? 일반적으로 많은 생성 된 AI 연구자들은 인간이 왜 자신이하는 일을하는지 오해하는 것처럼 보이며, 우리는 우리가 기쁨을 얻는 부분을 자동화하는 제품에 대한 제안으로 끝납니다."

Beery는 과학적 과정의 가장 어려운 부분은 현재 AI 시스템이 어려움을 겪고있는 가설을 테스트하기위한 연구를 설계하고 구현하는 것이라고 지적했다. AI는 실험을 물리적으로 수행 할 수 없으며 종종 데이터가 부족한 문제로 어려움을 겪습니다.

Beery는“대부분의 과학은 사실상 완전히 할 수는 없다. 새로운 데이터를 수집하고 실험실에서 실험을 수행하는 것과 같은 과학적 과정의 중요한 구성 요소가 종종있다”고 말했다. "실제 과학 프로세스와 비교하여 Google의 AI 공동 과학자와 같은 시스템의 한 가지 큰 제한은 분명히 유용성을 제한하며 시스템과 특정 연구 목표, 과거 작업, 기술 및 액세스 자원을 사용하는 실험실과 연구원에 대한 맥락입니다."

AI 위험

AI의 기술적 한계와 위험은 "환각"하거나 허위 정보를 생성하는 경향과 같은 과학자들이 심각한 작업에이를 의존하는 것에주의를 기울입니다.

Khudabukhsh는 AI 도구가 진보를 발전시키기보다는 과학 문헌을 소음으로 범람 할 수 있다고 걱정합니다.

이미 일어나고 있습니다. 최근의 연구에 따르면 AI 생성 "정크 과학"은 Google의 무료 검색 엔진 인 Google Scholar가 공학 문학을 넘겨주고 있습니다.

Kudabukhsh는“AI 생성 연구는 신중하게 모니터링되지 않으면 과학 분야에 품질이 낮거나 오해의 소지가있는 연구를 통해 동료 검토 과정을 압도 할 수있다”고 말했다. "압도적 인 동료 검토 프로세스는 이미 최고의 회의가 제출물의 기하 급수적 인 증가를 보았던 컴퓨터 과학과 같은 분야에서는 이미 도전입니다."

Sinapayen은 AI를 잘못 행동함으로써 잘 디자인 된 연구조차 타협 할 수 있다고 경고했다. 그녀는 문학 검토와 합성을 도울 수있는 도구에 대한 아이디어를 높이 평가하지만, 오늘날의 AI가 그 일을 안정적으로 믿지 않을 것입니다.

Sinapayen은“이들은 다양한 기존 도구가 주장하고있는 것들이지만 개인적으로 현재 AI에 남겨 둘 직업은 아닙니다. 그녀는 또한 AI 시스템이 어떻게 훈련되는지와 그들이 소비하는 에너지에 대한 우려를 제기했습니다. "모든 윤리적 문제가 해결 되더라도 현재 AI는 저의 작업에 기반을두기에 충분히 신뢰할 수 없습니다."