‘OpenAI DevDay 2024’ 최고급 청바지를 선보이다

“골드러시 시대에는 금맥을 찾는 대신 청바지나 곡괭이를 팔아라.” 과거 캘리포니아의 금광 개발 사례에서 유래된 이 격언은, AI 골드러시 시대에도 GPU를 판매한 엔비디아가 가장 큰 수혜를 입으며 다시금 입증되고 있습니다.

AI 골드러시를 연 주역인 OpenAI는 생성형 AI라는 금광을 발견하고, 안정적인 수익 모델인 청바지(API, 인프라) 제작에 착수했습니다. 이를 통해 10월 1일(현지 시각) 진행된 OpenAI Devday 2024에서 최고급 청바지를 선보였습니다.

Realtime API “야너두 음성 대화 앱 만들 수 있어!”

OpenAI의 주요 업데이트 중 하나인 ‘Realtime API’는 음성 대화를 실시간(저지연)으로 처리할 수 있는 기능입니다. 기존의 3단계 프로세스를 통합하여 시간과 리소스를 효율적으로 사용할 수 있게 되었으며, 지속적인 양방향 통신이 가능하여 지연 시간도 줄어들었습니다.

이 API는 AI 기반 영어 학습 서비스와 자동차 내 음성 제어 기능, 그리고 전화 상담원의 역할을 대체할 가능성이 크며, 외부 API와 연동하여 다양한 데이터를 제공할 수 있습니다.

Vision fine-tuning “이제 이미지도 파인튜닝할 수 있어!”

‘Vision fine-tuning’ 기능을 통해 사용자는 이미지의 성능을 미세 조정할 수 있으며, 그랩(Grab) 사례를 통해 차선 수 인식 정확도가 20% 향상된 바 있습니다.

이 기능은 시각 검색, 자율 주행차, 의료 이미지 분석 등 여러 분야에 기여할 것으로 기대됩니다.

Prompt Caching “물어봤던 거네? 반값에 해줄게!”

OpenAI는 캐싱 기술을 프롬프트에 적용하여 비슷한 요청에 빠르게 답변할 수 있는 기능을 도입했습니다. 이로 인해 입력 토큰 금액을 절반으로 줄일 수 있습니다.

Distillation “작은 모델로도 충분해!”

‘Distillation(정제)’ 기능을 통해 개발자들은 큰 모델을 기반으로 작은 모델을 효율적으로 개발할 수 있게 됐습니다.

스타트업 멸망의 날에서 스타트업 희망의 날로?

올해 Devday에서는 스타트업들이 비용 효율적으로 AI 서비스를 구현할 수 있는 기회를 제공하며, Realtime API와 Function Calling 기능이 새로운 희망을 줍니다.

OpenAI는 개발자와 기업들이 그들의 플랫폼에 의존하게 만들 기회를 제공하고 있습니다.

마치며

OpenAI는 대규모 투자 유치를 통해 영리 기업으로의 전환을 예고하고 있으며, 올해 Devday의 발표는 이러한 전략의 일환으로 해석됩니다. 과연 내년에는 어떤 모습으로 나올지 기대됩니다.

<원문>

OpenAI DevDay, 최고급 청바지를 선보이다.