싸다파일

메타 '라마3'에 경쟁 빅테크들 '화들짝' – 애플경제

[애플경제 이윤순 기자] 오픈AI를 후원해온 마이크로소프트(MS)나 아마존, 구글보다 비교적 ‘AI 경쟁’ 드라이브에서 뒤처진 것으로 알려진 메타가 이젠 AI시장의 강력한 변수로 떠올랐다. 특히 메타가 오픈소스로 출시한 라마 모델의 최신 버전인 ‘라마3’(Llama 3)는 다른 AI기업에게 위협적 존재로 인식되고 있다. 이에 “MS나 구글, 오픈AI 등 다른 경쟁자들도 새삼 자사 제품을 업그레이드하느라 분주한 모습”이라는게 외신 기술매체들이 전하는 최근의 현지 분위기다.
두 가지 매개변수 모델, ‘벤치마크’에서도 높은 평가
앞서 메타는 라마 모델의 최신 버전인 ‘라마3’을 공개했다. ‘라마3’은 성능 면에서 다른 오픈 소스 경쟁자보다 뛰어나고, AI 업계의 대표적인 빅테크들에게 위협적이라는 평가를 받고 있다.
‘라마3’은 80억개, 700억개의 두 가지 매개변수 크기로 제공된다. 둘 다 구글의 제미니(70억개)나 제미니 프로 1.5와 미스트랄과 비슷한 크기의 모델 성능을 능가한다는 평가도 있다. 또 메타는 “‘라마2’에 사용된 것보다 7배나 되는 훈련 데이터 세트를 특징으로 한 맞춤형 24K GPU 클러스터 2개에서 훈련을 받았다”고 밝히며 “그 결과 데이터 사용을 새로운 차원으로 확장하고 있다”고 자부했다.
실제로 ‘라마3’은 AI모델의 공통 벤치마크인 ‘MMLU’에서도 호평을 받으며 선두를 달리고 있다. ‘라마3 8B’는 젬마(Gemma)의 53.3%나, 미스트랄의 58.4%보다 높은 68.4%를 받고 있다. 또 ‘라마 3 70B’의 MMLU 점수는 82%에 달해, 제미니의 81.9%나 소네트(Sonnet)의 79%보다 후한 점수를 받고 있다.
‘라마3’는 또 ‘라마2’의 용량을 두 배로 늘리는 8천개의 컨텍스트를 지원한다. 그 덕분에 언어의 뉘앙스나, 문맥 이해, 복잡한 번역, 대화 생성 능력 등에서 ‘탁월’하다는 평가다. 또한 다단계 작업을 쉽게 처리할 수 있는가 하면, 메타 자체의 ‘정비되고 세련된 사후 교육 프로세스’에 의해 거짓이나 오류, 거부율을 낮추고 답변의 다양성을 높였다는 설명이다.
언어 뉘앙스, 문맥 이해, 번역, 대화 생성 등 ‘탁월’
‘ClearML’의 CEO이자 공동 창립자인 모세 거트만은 “이처럼 고급스런 기능을 갖춘 메타의 ‘라마3’는 오픈 소스 생성AI 시장에서 새로운 ‘벤치마크’ 기록을 세울 가능성이 크다”고 IT프로포탈을 통해 추켜세우기도 했다. 그는 또 “‘라마3’은 오픈 소스 모델이 달성할 수 있는 한계를 뛰어넘어, 사용자들이 자신의 제품을 향상시키고 전반적으로 혁신을 가속화하도록 도와준다”고 극찬을 아끼지 않았다.
이에 메타는 “코드 생성 기능을 테스트하는 벤치마크인 MMLU의 86.1%, 그리고 HumanEval의 84.1%를 기록할 만큼 강력한 ‘라마 3 400B+’라고 불리는 모델은 아직 훈련 중”이라고 예고해 주목을 끌고 있다.
실제로 지금껏 최고의 점수를 획득한 강력한 AI 모델 ‘Claude 3 Opus’는 MMLU 86.8%를기록, ‘라마 3 400B+’ 단지 0.7% 앞서고, 오픈AI의 GPT-4는 86.4%를 기록하며 0.3% 앞서고 있다. 물론 Meta는 아직 ‘라마3’의 400B+ 버전을 출시하지 않았다. 하지만 이러한 수치는 여느 유료 소스에 대한 경쟁자로서, 앞으로 더욱 오픈 소스의 대중화를 부추길 것으로 보인다.
이에 많은 업계 전문가들은 장차 ‘라마3’가 기업과 산업 전반에 걸쳐 명실상부한 오픈소스 전성기를 열어제칠 것으로 예상하기도 한다. ‘SambaNova Systems’의 CEO인 로드리고 리앙은 “아직은 오픈AI의 GPT-4가 성능면에서 여전히 선두주자이긴 하지만, ‘라마3’는 AI에 대한 기업의 접근 방식에 큰 변화를 가져올 수 있다는 신호일 수 있다.”며 이와 유사한 의견을 내비쳤다.
“오픈소스 커뮤니티 대중화의 촉매 역할” 예상도
그는 특히 ‘테크리퍼블릭’과의 인터뷰에서 “오픈 소스 커뮤니티는 어떤 단일 조직보다 더 혁신적이기 때문에 기업들은 이제 굳디 자체 모델을 구축할 필요가 없을 것”이라며 “여럿이 함께 일하는 커뮤니티는 항상 개별 회사보다 강력하며, (오픈소스 기반의) 커뮤니티를 활용하는 것이야말로 모든 기업과 조직이 빠르게 진화하는 AI 환경을 따라잡을 수 있는 가장 좋은 방법”이라고 오픈소스의 효용을 강조하기도 했다.
메타의 ‘라마3’는 그런 ‘오픈 소스 커뮤니티’의 대중화와 혁신을 가속화하는 결정적 계기가 되었다는 설명이다. 그래서 “시간이 지날수록 그런 (오픈소스가 주류로 자리잡을) 가능성은 더욱 명확해지고 ‘라마3’과 같은 오픈소스야말로 앞으로 나아갈 최적의 경로라는 사실이 분명해질 것”이라는 얘기다.

source

Keep Reading

이전다음

댓글

답글 남기기