구글 딥마인드의 TIPSv2: 이미지를 단순히 훑어보는 것이 아니라 진정으로 이해하는 AI
현재 AI 이미지 이해 기술에는 근본적인 한계가 있습니다.
"이 사진에 무엇이 있나요?"라고 물으면 상세한 답변을 제공할 수 있습니다. 하지만 "팬더의 왼쪽 뒷다리는 어디에 있나요?"라고 물으면 모호한 답변이 돌아옵니다. 이는 특정 모델의 결함이 아니라, 시각-언어 대형 모델 분야 전반에 걸쳐 지속되는 문제입니다. 즉, 전체적인 이해력은 뛰어나지만 세부적인 위치 파악 능력은 취약하다는 점입니다.
구글 딥마인드는 이 난제를 해결하기 위해 특별히 설계된 TIPSv2를 최신 논문에서 소개했습니다.

연구팀은 직관과 반대되는 발견을 했습니다. 세밀한 분할 작업에서 더 작은 학생 모델이 더 큰 교사 모델보다 성능이 뛰어난 경우가 빈번하다는 것입니다. 이는 증류(distillation) 과정이 마스킹 메커니즘을 제거함으로써 모델이 전체 이미지의 모든 세부 사항을 학습하도록 유도하여 일종의 "전체 영역 감독(full-area supervision)"을 생성하기 때문입니다. 이러한 통찰에 힘입어 TIPSv2는 세 가지 주요 개선 사항을 도입했습니다.
첫째, iBOT++입니다. 기존의 사전 훈련은 마스크 처리된 영역에 대해서만 손실(loss)을 계산하므로, 가시 영역은 소홀히 다루어져 국소적 의미론이 흐트러지는 결과를 초래합니다. iBOT++는 모델이 모든 가시 영역에 대해 정밀한 감독을 제공하도록 요구함으로써, 이 작업을 "퍼즐 게임"에서 "전체 텍스트를 꼼꼼히 읽는 것"으로 효과적으로 격상시킵니다. 이 단일 개선 사항만으로도 제로샷(zero-shot) 분할 성능이 14.1% 포인트 향상되었습니다.
둘째, 헤드 전용 EMA입니다. 기존의 자기 지도 학습은 메모리에 거의 동일한 두 개의 대형 모델을 유지해야 하므로 자원이 매우 많이 소모됩니다. TIPSv2는 이미지-텍스트 대조 손실만으로도 백본 네트워크를 안정화시키기에 충분하다는 사실을 발견했습니다. 따라서 EMA는 최종 투영 헤드에만 적용하면 되며, 백본을 중복할 필요가 없습니다. 이로 인해 훈련 매개변수 수가 약 42% 감소하여 성능 저하 없이 훈련 속도가 빨라졌습니다.
셋째, 다중 세분화 텍스트 페어링입니다. 훈련 과정에서 Gemini가 생성한 짧은 웹 설명, 중간 수준의 상세 설명, 긴 설명이 무작위로 혼합되어 모델에 입력되며, 쉬운 과제와 어려운 과제가 번갈아 가며 주어집니다. 이를 통해 모델이 단순한 과제에서 안주하는 것을 방지하는 동시에 세부 사항이 누락되지 않도록 보장합니다.
최종 결과는 매우 인상적입니다. TIPSv2는 9가지 과제와 20개의 권위 있는 데이터셋을 대상으로 동결 평가(frozen evaluation)를 거쳤습니다. 제로샷(zero-shot) 의미 분할은 새로운 업계 벤치마크를 달성했으며, 이미지-텍스트 검색 및 분류는 파라미터가 56% 더 많은 비교 모델들을 능가했습니다. 순수 시각 과제에서도 최상위 성적을 기록했습니다.
TIPSv2의 코드와 모델 가중치는 완전히 오픈소스로 공개되었습니다. 의료 영상, 자율 주행, 산업 검사 및 고정밀 이미지 이해가 요구되는 기타 분야에서 활동하는 팀이라면 이 솔루션을 면밀히 살펴볼 가치가 있습니다.
논문: https://www.alphaxiv.org/abs/2604.12012
관련 기사
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의
캘리포니아 자율주행차 규정 준수: 과태료, 지오펜스, 100만 마일의 새로운 시대
Guident는 남부 플로리다에서 AuveTech 셔틀을 운영하며, 자사의 원격 모니터링 기술을 활용해 웨스트 팜비치에서 4마일 구간과 보카 라톤에서 1마일 구간의 노선을 관리하고 있다. | 출처: Guident캘리포니아주는 자율주행차에 대한 규제 환경을 재정의하며, 기술 업계의 “빠르게 움직이고 실패를 감수하라(move fast and break thin
관련 특별 주제 추천
의견 (0)
0/500
현재 AI 이미지 이해 기술에는 근본적인 한계가 있습니다.
"이 사진에 무엇이 있나요?"라고 물으면 상세한 답변을 제공할 수 있습니다. 하지만 "팬더의 왼쪽 뒷다리는 어디에 있나요?"라고 물으면 모호한 답변이 돌아옵니다. 이는 특정 모델의 결함이 아니라, 시각-언어 대형 모델 분야 전반에 걸쳐 지속되는 문제입니다. 즉, 전체적인 이해력은 뛰어나지만 세부적인 위치 파악 능력은 취약하다는 점입니다.
구글 딥마인드는 이 난제를 해결하기 위해 특별히 설계된 TIPSv2를 최신 논문에서 소개했습니다.

연구팀은 직관과 반대되는 발견을 했습니다. 세밀한 분할 작업에서 더 작은 학생 모델이 더 큰 교사 모델보다 성능이 뛰어난 경우가 빈번하다는 것입니다. 이는 증류(distillation) 과정이 마스킹 메커니즘을 제거함으로써 모델이 전체 이미지의 모든 세부 사항을 학습하도록 유도하여 일종의 "전체 영역 감독(full-area supervision)"을 생성하기 때문입니다. 이러한 통찰에 힘입어 TIPSv2는 세 가지 주요 개선 사항을 도입했습니다.
첫째, iBOT++입니다. 기존의 사전 훈련은 마스크 처리된 영역에 대해서만 손실(loss)을 계산하므로, 가시 영역은 소홀히 다루어져 국소적 의미론이 흐트러지는 결과를 초래합니다. iBOT++는 모델이 모든 가시 영역에 대해 정밀한 감독을 제공하도록 요구함으로써, 이 작업을 "퍼즐 게임"에서 "전체 텍스트를 꼼꼼히 읽는 것"으로 효과적으로 격상시킵니다. 이 단일 개선 사항만으로도 제로샷(zero-shot) 분할 성능이 14.1% 포인트 향상되었습니다.
둘째, 헤드 전용 EMA입니다. 기존의 자기 지도 학습은 메모리에 거의 동일한 두 개의 대형 모델을 유지해야 하므로 자원이 매우 많이 소모됩니다. TIPSv2는 이미지-텍스트 대조 손실만으로도 백본 네트워크를 안정화시키기에 충분하다는 사실을 발견했습니다. 따라서 EMA는 최종 투영 헤드에만 적용하면 되며, 백본을 중복할 필요가 없습니다. 이로 인해 훈련 매개변수 수가 약 42% 감소하여 성능 저하 없이 훈련 속도가 빨라졌습니다.
셋째, 다중 세분화 텍스트 페어링입니다. 훈련 과정에서 Gemini가 생성한 짧은 웹 설명, 중간 수준의 상세 설명, 긴 설명이 무작위로 혼합되어 모델에 입력되며, 쉬운 과제와 어려운 과제가 번갈아 가며 주어집니다. 이를 통해 모델이 단순한 과제에서 안주하는 것을 방지하는 동시에 세부 사항이 누락되지 않도록 보장합니다.
최종 결과는 매우 인상적입니다. TIPSv2는 9가지 과제와 20개의 권위 있는 데이터셋을 대상으로 동결 평가(frozen evaluation)를 거쳤습니다. 제로샷(zero-shot) 의미 분할은 새로운 업계 벤치마크를 달성했으며, 이미지-텍스트 검색 및 분류는 파라미터가 56% 더 많은 비교 모델들을 능가했습니다. 순수 시각 과제에서도 최상위 성적을 기록했습니다.
TIPSv2의 코드와 모델 가중치는 완전히 오픈소스로 공개되었습니다. 의료 영상, 자율 주행, 산업 검사 및 고정밀 이미지 이해가 요구되는 기타 분야에서 활동하는 팀이라면 이 솔루션을 면밀히 살펴볼 가치가 있습니다.
논문: https://www.alphaxiv.org/abs/2604.12012
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의





집






