WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096
삼성전자가 지난 17일(현지 시각) 인공지능(AI)폰 갤럭시 S24를 공개하며 ‘온디바이스(on-device·내장형) AI’ 시대가 본격적으로 열리고 있다. 온디바이스 AI란 인터넷이 별도로 연결되지 않은 환경에서도 기기 자체에서 실행되는 AI 시스템을 말한다. 이 온디바이스 AI 기능이 탑재된 갤럭시 S24는 13가지 언어를 실시간 통역하고, 전문적 사진 편집까지 뚝딱 해내는 ‘마술’을 부린다. 이 온디바이스 AI는 스마트폰뿐 아니라 PC, 가전 등 모든 전자기기로 빠르게 확산하는 추세다. 온디바이스 AI의 주요 특징은 무엇이고, 장단점은 무엇인지 등을 5문답으로 풀었다.
◇Q1. 온디바이스 AI의 가장 큰 특징은
오픈AI의 챗GPT나 구글의 바드(Bard)처럼 인터넷에 연결돼 클라우드(가상 서버) 기반으로 사용되는 AI와 달리 온디바이스 AI는 데이터를 외부 서버로 전송하지 않고, 기기 내에서 실시간으로 처리한다는 게 특징이다. 보통 AI 모델이 연산하기 위해서는 막대한 양의 컴퓨터 용량이 필요하다. 이에 데이터센터를 기반으로 하는 클라우드에서 AI를 실행한다. 기기와 클라우드를 연결하는 데 인터넷이 필요한 이유다. 스마트 기기가 정보를 수집하는 눈·귀 등의 감각 기관, 클라우드는 뇌, 그리고 인터넷은 이를 연결하는 신경이었던 셈이다.
그러나 온디바이스 AI는 스마트 기기 내에 곧바로 뇌가 탑재된 것으로 비유할 수 있다. 클라우드에서 처리하던 모든 일을 다수의 스마트 기기로 나눠 처리하는 것이다. 정명수 KAIST 전기 및 전자공학부 교수는 “온디바이스 AI는 특화된 기능만 처리하기 때문에 기기에도 큰 부담이 없다”고 했다.
◇Q2: 방대한 AI가 어떻게 작은 기기 속에 들어갔나
하드웨어와 소프트웨어 기술이 뒷받침해준 덕분이다. 최근 반도체 기업들은 앞다퉈 고성능 칩을 개발해 내놓고 있다. 갤럭시S24에는 퀄컴의 ‘스냅드래건8 3세대’가 탑재됐다. 100억개 이상의 매개변수(사람 뇌의 시냅스와 같은 역할)를 처리할 수 있는 수준이다. 인텔 역시 AI 연산에 특화된 신경망처리장치(NPU)가 탑재된 PC 칩 ‘코어 울트라’를 출시하며 “이전 세대와 비교해 전력 효율을 2.5배 높이고 AI 기능을 지원한다”고 했다.
생성형 AI의 발전도 한몫했다. 2022년 챗GPT가 세상에 나온 이후 대량의 텍스트 데이터를 학습해 언어를 이해, 생성, 번역하는 다양한 대규모언어모델(LLM)이 쏟아졌다. 대규모 LLM은 더 정교해지고 성능이 좋아졌지만, 덩치가 커 스마트폰에 바로 적용하긴 어려웠다. 이에 LLM을 경량화해 기기에 탑재했다. AI는 매개변수가 많을수록 성능이 좋아지지만, 경량화한 LLM은 매개변수를 줄이는 대신 질 좋은 데이터를 학습시키는 방식을 쓰는 것이다.
◇Q3. 온디바이스 AI의 장단점은 무엇인가
온디바이스 AI는 인터넷 사용이 어려운 환경에서도 작동하니, 비행기 내부에서나 해외 여행 중 로밍을 하지 않은 상태에서도 통역 등 필요한 서비스 이용이 가능하다는 게 장점이다. 응답 시간도 빠르다. 클라우드와 기기 간 정보를 주고받는 시간이 사라져 지연 시간이 줄어든 덕이다. 이에 실시간 통·번역처럼 즉각적인 응답이 필요한 것에서 빛을 발할 수 있다. 클라우드를 쓰지 않으니 비용도 줄일 수 있다. 온디바이스 AI는 사용자 보안이 강화된다는 것도 장점이다. 민감한 정보가 외부로 나가지 않고 자신의 기기 내에서만 처리되기 때문이다. 또한 일상 속에서 사용하는 AI 기기가 사용자의 정보만 수집해 처리하기 때문에 AI가 개인의 생활 습관에 최적화된다.
반면 단점도 있다. 온디바이스 AI는 기기 자체 내에서 처리되기 때문에 외부 데이터에 의존하지 않는 제한된 데이터로만 처리가 가능하다. 새로운 정보를 얻거나 AI 모델을 업데이트하려면 결국 인터넷 연결이 필요하다는 뜻이다. 외부 데이터에 의존해야 하는 실시간 날씨, 속보, 뉴스 등의 정보를 제공받기도 어렵다. 또 고성능 AI 모델을 실행하려면 고성능 하드웨어를 탑재해야 하기 때문에 저사양 기기에선 AI 서비스가 제한적일 수밖에 없다는 점도 단점이다.
◇Q4. 어떤 기기들에 AI가 적용되나
스마트폰 외에도 온디바이스 AI의 적용 범위는 무궁무진하다. AI를 적용한 노트북은 이미 출시되고 있다. 삼성전자는 갤럭시 북4 시리즈를 내놓았고, LG전자도 AI 기능을 넣은 그램을 올해 출시했다. LG 그램 프로는 AI를 활용해 1초에 5장의 이미지를 제작할 수 있다. 마이크로소프트(MS)가 공개한 ‘서피스 랩톱 고3′도 AI를 활용한 비디오나 이미지 생성·편집에 최적화된 노트북이다. 시장조사 업체 카날리스는 2027년에 AI PC 비중이 전체 PC 시장의 60%에 달할 것으로 내다봤다.
가전 기업들도 세탁기, 건조기, 냉장고 등에 AI를 속속 장착하고 있다. 모든 가전을 AI로 연결해 집 안 환경과 필요에 따라 AI가 스스로 제품 작동을 조절하는 방식이다. 삼성전자의 ‘비스포크 오븐’의 경우는 AI가 식품 조리 상태 등을 분석해 준다. 아마존은 AI 비서 알렉사에 생성형 AI 기능을 추가했고, 메타는 스마트 안경 ‘레이밴 메타’에 AI 비서를 탑재했다. 이제 일상의 모든 기기에 AI가 녹아드는 것이다.
◇Q5. 산업에 어떤 파급 효과 줄까
테크 업계에서는 온디바이스 AI 제품이 IT 업계 불황을 돌파할 신성장 동력이 될 것이란 기대다. 경기 침체로 소비자들의 가전 교체 주기가 길어지고 있는데, 온디바이스 AI 제품이 소비자들의 구매욕을 자극할 것이란 얘기다. 투자은행 모건스탠리는 “온디바이스 AI로 스마트폰 출하량도 반등할 것”이라고 전망했다. 시장조사업체 카운터포인트리서치에 따르면 2027년 생성형 AI를 탑재한 스마트폰 출하량은 5억2200만대에 이르러, 전체 스마트폰 시장의 40%를 차지할 전망이다.
AI는 4차 산업 기술로 불리는 자율 주행 자동차, 로봇, 드론 등과 결합해 기술의 발전을 가속하고 있다. 다만 AI를 구동하기 위한 데이터센터는 엄청난 전력을 소비한다는 게 단점이다. 정명수 KAIST 교수는 “데이터센터를 통해 AI를 구동하려면 엄청난 전력 문제와 환경 이슈를 만들어낼 수밖에 없다”며 “각 기기로 분산돼 AI를 구동하는 온디바이스 AI가 해결책이 될 수 있다”고 했다.
WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096