UPDATE : 2024.7.20 토 08:24
상단여백
HOME 특집 기업탐방
업스테이지, 프렌들리AI와 솔라 번역모델 인프라 구축솔라 LLM 기반 번역 모델 인프라 구축… 프렌들리 전용 엔드포인트 도입으로 GPU 비용 최적화
정화진 기자 | 승인 2024.07.10 11:56|(1호)

인공지능(AI) 기술 기업 업스테이지가 프렌들리 AI와 손잡고 자사의 거대언어모델(LLM) ‘솔라' 기반의 번역 모델 인프라 구축 계약을 체결했다고 10일 밝혔다. 

 

앞서 업스테이지는 솔라 LLM을 파인튜닝(미세조정)한 한국어-영어 번역 특화 모델을 API(응용프로그램 인터페이스) 형태로 공개했다. 단순 문장 번역을 넘어 전후 문맥을 종합해 의미를 추론하고, 대화의 맥락과 흐름까지 파악하는 딥러닝 번역이 특징이다. 기계번역 평가의 바로미터로 꼽히는 메타의 ‘플로레스’ 벤치마크 평가에서 오픈AI의 GPT-4, 딥엘(DeepL) 등을 뛰어넘을 정도로 정확도가 높다. 

 

이에 업스테이지는 일일 최대 10만여 건에 달하는 번역 트래픽을 효율적으로 처리하기 위해 프렌들리AI의 ‘프렌들리 전용 엔드포인트(Friendli Dedicated Endpoint)’를 도입했다. 트래픽 부하에 따라 GPU 할당량을 동적으로 조정하는 ‘자동 스케일링’ 기능을 통해 서비스 운영을 자동화하고 GPU 비용을 크게 절감했다.

 

프렌들리AI 전병곤 대표는 “업스테이지의 최고의 생성형 AI 솔라 모델과 프렌들리AI의 최고의 생성형 AI 인프라가 만나, 기업들이 최고의 생성형 AI 응용을 최저의 비용으로 사용할 수 있도록 제공하게 되어서 매우 기쁘다”라며 “프렌들리AI와 업스테이지가 같이 기업들의 생성형 AI 혁신을 돕도록 매진하겠다“라고 밝혔다.

 

업스테이지 김성훈 대표는 “생성형AI 인프라 수행 리더 기업 프렌들리AI와 협력해 솔라 번역 모델의 서비스 비용을 효율화하게 되어 기쁘다”라며 “이제 더 많은 사람들이 세계 최고 수준의 번역 모델을 더욱 빠르고 손쉽게 사용할 수 있을 것으로 기대한다”라고 밝혔다.

 

정화진 기자  webmaster@jybtv.kr

<저작권자 © 자유방송, 무단 전재 및 재배포 금지>

정화진 기자의 다른기사 보기
icon인기기사
기사 댓글 0
전체보기
첫번째 댓글을 남겨주세요.
신문사소개기사제보광고문의불편신고개인정보취급방침이메일무단수집거부청소년보호정책
발행처:자유방송  |  등록번호:경남 아 02598 |  등록일:2007년 11월 23일 |  청소년보호책임자 : 심흥섭
발행/편집인: 이영배 webmaster@jybtv.kr  |  편집국장: 이정복
경남 거제시 옥포 성안로 15. 102동 1302호 (미진 라메르펠리스)

서울시 성북구 안암로 1길 11,7층(보성빌딩)  |  대표전화: (055) 688.9188 / 010.2405.8983
본사이트의 게재된 모든 기사의 판권은 자유방송이 보유하며 발행인의 사전승인 없이는 기사와 사진의 무단ㆍ전재 복사를 금합니다.
Copyright © 2024 자유방송. All rights reserved.
Back to Top