Oracle의 최신 AI 솔루션은 데이터를 효과적으로 통합하고 관리합니다.

Oracle은 데이터베이스 내에있는 경우 데이터베이스 내에있는 경우, 생성 인공 지능의 세계로 뛰어 들기를 원할 때 데이터를 바로 유지하기위한 설득력있는 사례를 만들고 있습니다. 이 접근법은 특히 Oracle의 생태계에 이미 투자 한 엔터프라이즈 사용자에게 게임 체인저가 될 수 있습니다.

두바이에서 최근 파트너 이벤트에서 Oracle은 OCI 생성 AI 서비스의 일반적인 가용성을 출시했습니다. 9 월에 베타로 처음 출시 된이 관리 AI 서비스는 이제 프라임 타임에 대비했습니다. 이와 함께 Oracle은 베타로 여전히 두 가지 새로운 제품을 소개했습니다. OCI Gen AI 에이전트 및 OCI 데이터 과학 AI 빠른 작업.

Oracle의 피치는 분명합니다. 기존 데이터 인프라에 엔터프라이즈 생성 AI 애플리케이션을 구축하면 고유 한 데이터를보다 효과적으로 활용할뿐만 아니라 추가 인프라를 위해 추가 현금을 제공 할 수 없습니다. Oracle Cloud Infrastructure를 나타내는 OCI는 Oracle이 수십억에 투자 한 Oracle Autonomous Database 및 Nvidia GPU "Super-Clusters"를 포함하여 글로벌 네트워크 및 컴퓨팅 리소스를 포함합니다.

Oracle의 전략 및 운영 담당 부사장 인 Erik Bergenholtz는 회사의 접근 방식을 강조했습니다. "우리는 본질적으로 AI를 데이터로 가져오고 있습니다." 그는 ERP 및 HCM과 같은 Oracle의 퓨전 응용 프로그램, House Exabytes of Data와 같은 Oracle의 퓨전 응용 프로그램을 강조했으며 회사는 현재 생성 AI를 이러한 방대한 데이터 풀에 통합하고 있습니다.

Bergenholtz에 따르면 Oracle의 데이터베이스, 미들웨어 및 퓨전 앱을 구축하면 실질적인 이점이 중요합니다. 그는 회사가 Pine Cone와 같은 벡터 데이터베이스와 같은 추가 소프트웨어를 구매할 수 있지만이 접근법은 비용과 복잡성을 추가한다고 지적했다. "물론 단점은 클라우드 비용을 높이는 또 다른 인프라가 있으며, 이제 실제로 원래 데이터 저장소에서 데이터를 이동하고 동기화해야합니다." 그러나 OCI 서비스를 사용하면 "고객에게 해당 장벽, 마찰을 제거합니다."

Oracle의 데이터베이스 및 자율 서비스 마케팅 담당 부사장 인 Steve Zivanic은 "우리는 고객이 데이터를 이동하기를 원하지 않습니다. 마지막으로 원하는 것은 500 테라 바이트를 이동하여 생성 AI의 이점을 얻는 것입니다."

새로 이용 가능한 OCI 생성 AI 서비스에는 Meta의 Open-Source LLAMA 2 70-Billion-Parameter 모델과 같은 사전 구축 된 LLM (LLM)이 포함됩니다. Oracle은 또한 Oracle이 투자 한 벤처 지원 스타트 업인 Cohere와 파트너 관계를 맺고 서비스에 세 가지 모델을 포함시켜 주류 텍스트 기능을위한 명령, 문서 요약을 위해 요약하고 다중 언어 기능을 포함 시켰습니다.

Bergenholtz는 Data Privacy의 중요성을 강조하면서 OCI에서 교육 또는 미세 조정 모델에 사용 된 고객 데이터는 다른 Oracle 고객이 기밀로 유지할 수 없다고 지적했습니다. 베타 단계 이후, 서비스는 컨텐츠 중재와 같은 기능을 추가하여 프롬프트가 언어 모델에 제출되고 모델의 응답이 생성 된 후에 수행됩니다.

이 서비스는 Langchain Development Framework와 통합되어 LLMS와 함께 일하는 개발자를위한 유틸리티를 향상시킵니다.

OCI Gen AI 에이전트 제품은 LLM을 고객의 독점 데이터와 같은 다른 리소스와 연결하는 것을 목표로합니다. RAG (Respreval-Augmented Generation)의 첫 번째 에이전트를 사용하면 언어 모델이 OCI의 OpenSearch 및 곧 Oracle의 데이터베이스 23C AI 벡터 검색 및 MySQL Heatwave Vector Store와 같은 데이터 소스를 활용할 수 있습니다. AI 에이전트 서비스는 이번 달 베타 테스트를 시작할 예정입니다.

Oracle의 2018 DataScience 인수에서 비롯된 OCI Data Science Quick Action은 언어 모델을 배포하고 미세 조정하는 데 대한 코드 접근 방식을 제공합니다. 분산 교육을위한 여러 프레임 워크를 지원하고 객체 및 파일 스토리지를 사용하여 모델 가중치를 관리합니다. 빠른 작업은 다음 달 베타 테스트에 들어갑니다.

Oracle은 OCI Gen AI 서비스의 베타 단계에서 다양한 사용 사례를 관찰했습니다. 일반적인 응용 프로그램은 회사 정책 및 개별 사용에 따라 나머지 휴가 일을 계산하는 것과 같은 HR 정책 질문에 대한 응답을 자동화하는 것입니다. 유사한 신청서에는 의료 보험 혜택 질문에 대한 답변이 포함됩니다. 또 다른 일반적인 사용 사례는 고객 지원에있어 RAG가 케이스를 요약하고 다음 단계에 대한 스크립트를 제공하여 사용자 경험을 향상시키는 데 도움이 될 수 있습니다.

Zivanic은 생성 AI를 데이터와 통합하는 것을 주저하는 사람들을 위해 Oracle의 접근 방식을 설명했습니다. 벡터 검색과 같은 기능을 Oracle 데이터베이스 및 Heatwave에 직접 포함시켜 고객에게 기술을 가져오고 있습니다. 그는 일부 조직 이이 기술에 익숙해지기 위해 측면 프로젝트로 시작할 수 있지만 시간이 지남에 따라 수렴 된 데이터베이스의 장점이 명확해질 것으로 예측하여 여러 데이터베이스 관리의 복잡성을 능가 할 것이라고 예측했습니다.