아마도 더 신뢰성 높은 AI를 개발하기 위해 900만 달러의 자금을 확보할 것으로 보입니다.

LLM의 성능이 점점 향상되고 있음에도 불구하고 환각 현상은 여전히 심각한 문제로 남아 있습니다. 가장 첨단적인 모델들조차 오류를 생성하기 마련이며, 이러한 오류를 탐지할 수 있는 방법들이 존재함에도 업계는 여전히 최적의 접근법을 찾고 있습니다.
최근 Andreessen Horowitz로부터 900만 달러의 시드 투자를 유치한 Probably는 오류 탐지를 위한 보다 효과적인 방법을 개발하는 것을 목표로 하고 있습니다.
창립자인 Peter Elias(위 사진)는 이 회사의 사명이 환각 현상 및 사실 오류가 사용자에게 전달되는 것을 막아, 결정론적 시스템에서 보이는 99.99%라는 높은 정확도를 달성하는 것이라고 설명합니다. 이러한 수준은 AI를 활용할 때는 훨씬 더 어렵게 달성됩니다. 그는 LLM을 활용해 이 목표를 이루려면 기본적인 AI 엔지니어링에 대한 가정들을 재고해야 한다고 말합니다.
Probably의 초기 제품은 복잡한 데이터 세트에서도 빠르게 답변을 생성하도록 설계된 데이터 과학 도구입니다. 모든 결과에는 출처 정보와 그 결과가 도출된 경로에 대한 감사 기록이 포함되며, 이러한 방식은 점점 더 AI 도구들의 표준이 되고 있습니다.
이러한 요약 내용에 오류가 들어가는 것을 막기 위해 회사는 Elias가 “데이터 과학 메크 슈트”라고 부르는 정교한 보조 시스템을 구축했습니다. LLM이 처음 내놓은 답변들은 결정론적 시스템에 의해 검증되며, 데이터 세트와 일치하지 않는 결과는 모두 거부됩니다. 회사에 따르면 LLM은 이러한 검증기를 대상으로 훈련을 받았으며, 전체 시스템은 속도와 정확도 측면에서 최적화되어 있습니다.
Elias는 “우리가 알게 된 사실은 보조 시스템의 설계가 더욱 견고할수록 모델이 가져야 하는 성능은 그만큼 낮아진다는 것입니다. 문맥을 충분히 정교하게 다듬으면 모델은 올바른 결과를 도출하기 위해 고생할 필요가 없습니다. 본질적으로 이는 애매함을 줄이는 것과 관련이 있습니다”라고 말합니다.
이 덕분에 Probably의 데이터 과학 도구는 훨씬 더 성능이 낮은 AI 모델에서도 작동할 수 있습니다. Elias는 현재 버전이 “선두적인 모델들보다 4단계나 성능이 낮은” 모델을 사용하고 있어, 데이터 센터가 아닌 일반 데스크톱 컴퓨터와 같은 로컬 하드웨어에서도 실행될 수 있다며, 이를 통해 AI 사용과 관련된 토큰 비용을 크게 절감할 수 있다고 설명합니다.
토큰 비용이 상승하고 많은 고객들이 자신의 AI 예산을 재평가하는 현시점에서 이러한 접근법은 매우 시의적절합니다. Elias의 비전은 데이터 과학 분야를 넘어 회계나 의료 서비스와 같은 다른 용도에도 적용될 수 있으며, 그의 표현을 빌리자면 “정밀도가 중요한 모든 용도”에 활용될 수 있습니다.
Elias는 “주요 AI 연구소들조차 이러한 접근법을 시도하지 않은 것이 놀랍습니다. 그들은 반복적인 수정이 필요하다는 사실에서 이익을 얻고 있기 때문에 이를 시도할 동기가 없는 것입니다”라고 말합니다.
관련 기사
‘테크크런치 디스럽트 2026’이 막을 내렸다
TechCrunch Disrupt 2026의 마지막 날이 찾아왔으며, 이는 강렬한 한 주를 마무리하는 날입니다. 1만 명 이상의 창업자, 투자자, 기술 리더들이 샌프란시스코의 모스콘 웨스트에 모인 가운데, 3일 차에는 이번 행사에서 가장 실용적이고 미래 지향적인 세션들이 펼쳐집니다.미래의 판도를 이끌어갈 창업자들과 투자자들의 통찰력이 담긴 차세대 AI, 스
QueryStory, AI 생성 콘텐츠에 대한 주의 당부
2009년, 샤포르 나기브자데는 구글의 시스템 운영 엔지니어로 근무하던 중 설득력 있는 스토리텔링의 힘을 깨달았습니다. ‘오로라 작전’ 당시, 국가가 후원하는 해커들이 이 거대 기술 기업을 표적으로 삼았을 때, 그는 서버 활동을 파악하기 위해 위기 대응실로 소환되었고, 분산된 네트워크 전반에 걸쳐 사이버 공격을 추적하는 데 검증된 지식이 필수적이라는 사실을
AI 코드 작성으로 1,215만 위안 손실… 예산의 860% 초과: 아마존 내부 사고, 기업 AI 비용 문제에 경종 울려
최근 미국 언론은 아마존에서 AI 관련 비용이 크게 초과된 사례를 보도했는데, 한 엔지니어가 저자 데이터를 상품 목록과 매칭하기 위해 앤트로픽(Anthropic)의 ‘클로드 소네(Claude Sonnet)’ 모델을 사용한 결과, 예산보다 860%나 초과한 180만 달러의 비용이 발생했다고 전했다. 작가 정보를 전자상거래 상품 목록과 연결하기 위한 이 일상적
관련 특별 주제 추천
의견 (0)
0/500

LLM의 성능이 점점 향상되고 있음에도 불구하고 환각 현상은 여전히 심각한 문제로 남아 있습니다. 가장 첨단적인 모델들조차 오류를 생성하기 마련이며, 이러한 오류를 탐지할 수 있는 방법들이 존재함에도 업계는 여전히 최적의 접근법을 찾고 있습니다.
최근 Andreessen Horowitz로부터 900만 달러의 시드 투자를 유치한 Probably는 오류 탐지를 위한 보다 효과적인 방법을 개발하는 것을 목표로 하고 있습니다.
창립자인 Peter Elias(위 사진)는 이 회사의 사명이 환각 현상 및 사실 오류가 사용자에게 전달되는 것을 막아, 결정론적 시스템에서 보이는 99.99%라는 높은 정확도를 달성하는 것이라고 설명합니다. 이러한 수준은 AI를 활용할 때는 훨씬 더 어렵게 달성됩니다. 그는 LLM을 활용해 이 목표를 이루려면 기본적인 AI 엔지니어링에 대한 가정들을 재고해야 한다고 말합니다.
Probably의 초기 제품은 복잡한 데이터 세트에서도 빠르게 답변을 생성하도록 설계된 데이터 과학 도구입니다. 모든 결과에는 출처 정보와 그 결과가 도출된 경로에 대한 감사 기록이 포함되며, 이러한 방식은 점점 더 AI 도구들의 표준이 되고 있습니다.
이러한 요약 내용에 오류가 들어가는 것을 막기 위해 회사는 Elias가 “데이터 과학 메크 슈트”라고 부르는 정교한 보조 시스템을 구축했습니다. LLM이 처음 내놓은 답변들은 결정론적 시스템에 의해 검증되며, 데이터 세트와 일치하지 않는 결과는 모두 거부됩니다. 회사에 따르면 LLM은 이러한 검증기를 대상으로 훈련을 받았으며, 전체 시스템은 속도와 정확도 측면에서 최적화되어 있습니다.
Elias는 “우리가 알게 된 사실은 보조 시스템의 설계가 더욱 견고할수록 모델이 가져야 하는 성능은 그만큼 낮아진다는 것입니다. 문맥을 충분히 정교하게 다듬으면 모델은 올바른 결과를 도출하기 위해 고생할 필요가 없습니다. 본질적으로 이는 애매함을 줄이는 것과 관련이 있습니다”라고 말합니다.
이 덕분에 Probably의 데이터 과학 도구는 훨씬 더 성능이 낮은 AI 모델에서도 작동할 수 있습니다. Elias는 현재 버전이 “선두적인 모델들보다 4단계나 성능이 낮은” 모델을 사용하고 있어, 데이터 센터가 아닌 일반 데스크톱 컴퓨터와 같은 로컬 하드웨어에서도 실행될 수 있다며, 이를 통해 AI 사용과 관련된 토큰 비용을 크게 절감할 수 있다고 설명합니다.
토큰 비용이 상승하고 많은 고객들이 자신의 AI 예산을 재평가하는 현시점에서 이러한 접근법은 매우 시의적절합니다. Elias의 비전은 데이터 과학 분야를 넘어 회계나 의료 서비스와 같은 다른 용도에도 적용될 수 있으며, 그의 표현을 빌리자면 “정밀도가 중요한 모든 용도”에 활용될 수 있습니다.
Elias는 “주요 AI 연구소들조차 이러한 접근법을 시도하지 않은 것이 놀랍습니다. 그들은 반복적인 수정이 필요하다는 사실에서 이익을 얻고 있기 때문에 이를 시도할 동기가 없는 것입니다”라고 말합니다.
‘테크크런치 디스럽트 2026’이 막을 내렸다
TechCrunch Disrupt 2026의 마지막 날이 찾아왔으며, 이는 강렬한 한 주를 마무리하는 날입니다. 1만 명 이상의 창업자, 투자자, 기술 리더들이 샌프란시스코의 모스콘 웨스트에 모인 가운데, 3일 차에는 이번 행사에서 가장 실용적이고 미래 지향적인 세션들이 펼쳐집니다.미래의 판도를 이끌어갈 창업자들과 투자자들의 통찰력이 담긴 차세대 AI, 스
QueryStory, AI 생성 콘텐츠에 대한 주의 당부
2009년, 샤포르 나기브자데는 구글의 시스템 운영 엔지니어로 근무하던 중 설득력 있는 스토리텔링의 힘을 깨달았습니다. ‘오로라 작전’ 당시, 국가가 후원하는 해커들이 이 거대 기술 기업을 표적으로 삼았을 때, 그는 서버 활동을 파악하기 위해 위기 대응실로 소환되었고, 분산된 네트워크 전반에 걸쳐 사이버 공격을 추적하는 데 검증된 지식이 필수적이라는 사실을
AI 코드 작성으로 1,215만 위안 손실… 예산의 860% 초과: 아마존 내부 사고, 기업 AI 비용 문제에 경종 울려
최근 미국 언론은 아마존에서 AI 관련 비용이 크게 초과된 사례를 보도했는데, 한 엔지니어가 저자 데이터를 상품 목록과 매칭하기 위해 앤트로픽(Anthropic)의 ‘클로드 소네(Claude Sonnet)’ 모델을 사용한 결과, 예산보다 860%나 초과한 180만 달러의 비용이 발생했다고 전했다. 작가 정보를 전자상거래 상품 목록과 연결하기 위한 이 일상적





집






