​'갤럭시 AI' 비결은 최적화…모든 기기에 AI 넣겠다 > 공지사항

​'갤럭시 AI' 비결은 최적화…모든 기기에 AI 넣겠다

삼성전자가 갤럭시S24 시리즈에 탑재된 하이브리드 인공지능(AI) 기술 '갤럭시 AI'를 전 제품군에 도입한다. 스마트폰부터 시작해 태블릿·워치 등 모바일 디바이스, 향후에는 TV 등 가전제품까지 영역을 확대한다. AI 모델 경량화 기술로 각 디바이스에 최적화된 AI를 선보인다는 방침이다.

김영집 삼성전자 MX사업부 언어AI팀 부사장은 18일(현지시간) 미국 실리콘밸리 마운틴뷰 삼성리서치아메리카(SRA)에서 열린 간담회에서 “단순 챗봇보다 고객이 실생활에서 가장 많이 사용하는 기능과 서비스 중심으로 AI 개발 초점을 맞췄다”며 이같이 밝혔다.

김 부사장은 AI 서비스 확장 가능성에 대해 “갤럭시S24뿐 아니라 사실상 사용자가 쓸 수 있는 모든 기기는 앞으로 AI 기능을 지원하게 될 것”이라고 말했다. 시작은 스마트폰으로 했지만 태블릿과 스마트워치, 갤럭시링 등 웨어러블 기기까지 갤럭시 AI 기술을 적용해 소비자 경험을 극대화한다는 설명이다.

갤럭시 AI는 온디바이스(기기내장)와 클라우드(외부서버) 방식을 모두 활용하는 하이브리드 AI로 설계됐다. 특히 삼성전자는 네트워크가 없는 환경에서도 안전하게 AI 기능을 사용할 수 있는 온디바이스 AI 개발에 심혈을 기울였다.

김 부사장은 “실시간 통역과 음성녹음 요약, 노트 어시스트 등 갤럭시S24에 적용된 차별화된 AI 경험은 외부 연결없이 온디바이스 AI를 통해 제공하고 있다”고 강조했다.

갤럭시 AI 핵심은 경량화다. 삼성전자는 양자화·가지치기 등 AI 모델 경량화 기술을 통해 스마트폰에 최적화된 온디바이스 AI를 구현하면서 추론성능도 끌어올렸다.

김 부사장은 “자체 LLM 가우스의 경우 다국어 데이터를 사전 학습한 거대한 파운데이션 모델에서 프루닝과 파인튜닝을 거쳐 모바일에 적합한 AI를 구현했다”며 “메모리 최적화를 위한 최첨단 딥러닝 기술과 고도화된 신경망처리장치(NPU)가 적용됐다”고 설명했다.

AI 모델을 압축하는 양자화 기술도 소개했다. 김 부사장은 “32비트 파라미터 모델을 온디바이스에 맞춰 4비트까지 줄였다”며 “이를 통해 매개변수를 줄이면서 성능은 떨어지지 않는 AI 모델을 갤럭시에 적용할 수 있었다”고 말했다.

삼성전자는 AI 모델 고도화에 따른 비용 증가에도 내년까지 갤럭시 AI 기능은 무료 제공한다. 유료화 여부는 구체적으로 논의한 바 없다는 입장이다. 김 부사장은 “2025년 말까지는 무료정책을 유지할 것”이라며 “AI 기술이 급속도로 발전하는 만큼 그 이후에 (유료화 여부를)논의할 수 있을 것”이라고 말했다.

또, AI 기능을 다른 단말제조사 등 서드파티 기업에게 개방할 계획이 있느냐는 질의에는 “갤럭시 AI는 갤럭시 유저만을 위해 개발한 것으로 다른 회사에 개방할 계획은 없다”며 “이론적으로는 가능하겠지만 해당 디바이스에 맞는 하드웨어 최적화가 필요할 것”이라고 부연했다.

[전자신문 제공]