억만장자들이 이번 주 AI 업데이트에서 일자리 자동화에 대해 논의하다

안녕하세요, TechCrunch의 AI 뉴스레터에 다시 오신 것을 환영합니다! 아직 구독하지 않으셨다면, 매주 수요일마다 받은 편지함으로 바로 배달받을 수 있도록 여기를 클릭해 구독하세요.

지난주에는 잠시 쉬었지만, 그럴만한 이유가 있었습니다—중국의 AI 회사 DeepSeek의 갑작스러운 급부상 덕분에 AI 뉴스 사이클이 뜨거웠습니다. 정신없는 시간이였지만, 이제 다시 돌아왔고, OpenAI의 최신 소식을 전해드릴 준비가 되었습니다.

주말 동안 OpenAI CEO Sam Altman은 SoftBank의 수장인 Masayoshi Son과 대화를 나누기 위해 도쿄를 방문했습니다. OpenAI의 큰 투자자인 SoftBank는 미국에서 대규모 데이터 센터 프로젝트 자금 지원을 약속했습니다. 그래서 Altman이 Son과 시간을 보낸 것이 놀랍지 않습니다.

그들은 무슨 이야기를 나눴을까요? 보도에 따르면, AI "에이전트"와 이들이 작업 프로세스를 간소화하는 방법에 대한 논의였습니다. Son은 폭탄선언을 했는데, SoftBank가 OpenAI 제품에 매년 30억 달러를 투자할 계획이라고 밝혔습니다. 또한, 그들은 "Cristal Intelligence"라는 것을 만들어 수백만 개의 사무직 일자리를 자동화하려고 합니다.

"모든 작업과 워크플로우를 자동화하고 자율화함으로써 SoftBank Corp.는 사업과 서비스를 혁신하고 새로운 가치를 창출할 것입니다," SoftBank는 월요일 보도자료에서 밝혔습니다.

TechCrunch Sessions: AI에서 전시

TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 여러분이 만든 것을 보여주세요—은행을 털지 않고도 가능합니다. 테이블이 남아있는 동안, 5월 9일까지 자리가 있습니다.

TechCrunch Sessions: AI에서 전시

TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 여러분이 만든 것을 보여주세요—은행을 털지 않고도 가능합니다. 테이블이 남아있는 동안, 5월 9일까지 자리가 있습니다.

버클리, CA | 6월 5일 지금 예약하세요

하지만 한 발짝 물러서서 이 모든 것의 인간적인 측면을 생각해봅시다. Klarna의 Sebastian Siemiatkowski 같은 CEO들이 AI가 인간을 대체한다고 자랑하고, Son이 비슷한 의견을 내놓을 때, 부와 효율성의 비전에 쉽게 빠져들기 마련입니다. 하지만 일자리를 잃을 수 있는 노동자들은 어떨까요? 특히 AI를 이끄는 사람들이 직원에 대한 영향보다 기업의 이익에 더 집중하는 것처럼 보일 때, 받아들이기 힘든 현실입니다.

조금 실망스럽지 않나요? OpenAI 같은 회사와 SoftBank 같은 투자자들은 AI의 미래를 만들어가고 있지만, 그들은 스포트라이트를 받으며 자동화된 비즈니스와 적은 인원을 이야기합니다. 이해합니다, 그들은 자선단체가 아니라 비즈니스이고, AI 개발은 비용이 많이 듭니다. 하지만 인간적인 요소에 조금 더 관심을 보인다면, 사람들이 AI를 더 신뢰할지도 모릅니다.

생각해볼 문제입니다.

뉴스

• 심층 연구: OpenAI는 ChatGPT를 사용해 복잡한 연구를 깊이 파고들 수 있도록 설계된 새로운 AI "에이전트"를 출시했습니다.
• O3-mini: 다른 OpenAI 소식으로, 새로운 AI "추론" 모델인 o3-mini를 출시했습니다. 가장 강력한 모델은 아니지만, 더 효율적이고 빠릅니다.
• EU, 위험한 AI 금지: 일요일부터 유럽연합은 "허용 불가능한 위험"이나 해를 끼치는 AI 시스템을 금지할 수 있으며, 여기에는 소셜 스코어링 및 잠재의식 광고에 사용되는 시스템이 포함됩니다.
• AI "종말론자"에 관한 연극: Sam Altman이 지난해 11월 OpenAI에서 잠시 축출된 사건에서 영감을 받은, AI "종말론자" 문화를 다루는 새로운 연극이 나왔습니다. 제 동료 Dominic과 Rebecca가 초연을 보고 난 후 소감을 공유했습니다.
• 작물 수확량을 높이는 기술: Google의 X "moonshot factory"는 데이터와 머신러닝을 사용해 작물 수확량을 개선하는 스타트업 Heritable Agriculture를 소개했습니다.

이번 주의 연구 논문

추론 모델은 특히 과학과 수학에서 어려운 문제를 해결하는 데 뛰어납니다. 하지만 완벽하지는 않습니다. Tencent 연구진의 연구는 이러한 모델의 "과소 사고" 문제를 다루며, 모델이 유망한 사고 경로를 너무 일찍 포기한다고 지적했습니다. 연구에 따르면, 어려운 문제일수록 이런 현상이 더 자주 발생하며, 모델이 해결책에 도달하지 않고 아이디어 사이를 오갑니다.

연구진은 각 추론 경로를 완전히 탐색하도록 유도하는 "사고 전환 페널티"를 제안하여 모델의 정확성을 높일 수 있다고 합니다.

이번 주의 모델

이미지 제공: YuE

TikTok의 ByteDance, 중국 AI 회사 Moonshot 등이 지원하는 팀이 프롬프트로 고품질 음악을 생성할 수 있는 새로운 오픈 모델 YuE를 출시했습니다. 이 모델은 보컬과 반주를 포함한 몇 분 길이의 노래를 만들 수 있으며, Apache 2.0 라이선스로 제공되어 상업적 사용이 무료입니다.

하지만 몇 가지 제약이 있습니다. YuE를 실행하려면 강력한 GPU가 필요합니다—30초짜리 노래를 생성하는 데 Nvidia RTX 4090으로 6분이 걸립니다. 또한, 모델 훈련에 저작권이 있는 데이터가 사용되었는지에 대한 불확실성이 있어, 향후 IP 문제가 발생할 가능성이 있습니다.

잡다한 소식

이미지 제공: Anthropic

Anthropic은 AI "탈옥"을 더 잘 방지하기 위해 Constitutional Classifiers라는 새로운 기술을 개발했다고 주장합니다. 이 기술은 입력과 출력에 각각 하나씩, 두 세트의 분류기 모델을 사용합니다. 입력 분류기는 보호된 모델에 프롬프트를 추가해 잠재적 탈옥을 감지하고, 출력 분류기는 응답에서 유해한 콘텐츠를 확인합니다.

Anthropic은 이 방법이 대부분의 탈옥을 잡아낼 수 있다고 하지만, 단점도 있습니다. 각 쿼리가 25% 더 많은 계산 자원을 소모하며, 보호된 모델은 무해한 질문에 응답할 가능성이 약간 낮아집니다.