인공지능(AI) 전문 스퀴즈비츠(대표 김형준)가 최적의 대형언어모델(LLM) 서빙 시나리오를 찾아주는 솔루션 ‘핏츠 온 칩스(Fits on Chips)’를 선보인다고 19일 밝혔다.

물론 API를 통해 LLM을 끌어다 사용하는 경우가 많지만, 보안이나 비용 등의 이유로 모델을 구축하는 사례가 늘어나며 LLM 서빙의 중요성도 부각되고 있다. 하지만 어떤 하드웨어 인프라를 기반으로 무슨 LLM을 어떤 방식으로 서빙할지 결정하는 과정은 생각보다 더 번거롭다. 이를 해결하기 위해 등장한 것이 핏츠 온 칩스다.

포항공과대(포스텍)에서 석·박사 과정을 밟은 약 6년 동안 그와 공동창업자들이 발표하거나 참여한 국제 논문만 70여 편이다. 딥러닝 가속기 하드웨어를 연구하는 연구실에서 연구원으로 일하면서 그의 관심은 연구하고 좋은 논문을 쓰는 데에 집중했다. “연구가 가장 재미있었다”던 대학원생이었다. 박사 과정을 마치고 대기업이나 해외 취업 대신 2022년 3월 연구실 동기 2명과 함께 창업에 도전했다. “포스텍에 다닐 때 딱히 창업에 관심이 많은 게 아니었는데, 미래를 생각할 때 ‘가장 도전적인 일이 무엇일까’라는 생각을 했다. 결론은 대기업에 가는 대신 창업 하는 것으로 생각했다”고 설명했다.

인텔·네이버·카이스트·스퀴즈비츠 등은 지난 4월 AI 반도체 개방형 생태계 조성을 위해 협력하기로 하고 이와 관련해 AI 공동연구센터를 조성했다. 스퀴즈비츠는 무거운 AI 모델 경량화(압축) 관련 연구를 하는 AI 스타트업이다. "네이버는 인텔이 가우디2 하드웨어를 제공하면 스퀴즈비츠와 함께 가우디에서 AI 모델 학습·트레이닝을 할 수 있는 기본 프로그래밍 코드를 만든 후 이를 국내 대학 연구실에 제공할 예정"이라고 구체적인 양사 협업 구도에 관해 설명했다.

AI 반도체 스타트업 리벨리온(대표 박성현)과 AI 모델 경량화 전문 스타트업 스퀴즈비츠(대표 김형준)가 신경망처리장치인 NPU(Neural Processing Unit)에 최적화된 생성형 AI 모델 개발 관련 전략적 파트너십을 체결했다고 29일 밝혔다.

스퀴즈비츠는 AI 모델의 정확도 손실을 최소화하면서도 계산량을 압축할 수 있는 경량화 기술을 보유하고 있으며, 리벨리온은 국내에서 최초로 SLM 가속이 가능한 NPU를 양산할 계획이다.

인공지능(AI) 전문 스타트업 스퀴즈비츠의 김형준 대표는 지난주 '인텔 비전 2024'가 열린 미국 애리조나주 피닉스에 다녀왔다. 인텔과 네이버가 AI 칩 동맹을 맺기로 한 가운데 인텔 칩 '가우디' 기반의 소프트웨어(SW)를 함께 연구하기 위해서다. 경량화는 AI 모델과 이를 구동시키는 반도체 사이 최적의 궁합을 찾아주는 만큼 AI 밸류체인을 잇는 핵심 기술로 꼽힌다. 창업 3년 차 신생 기업이지만 삼성, 네이버, 카카오 등 국내 AI 대표 주자에서 모두 투자받은 이유다.

초거대 인공지능(AI) 시대가 열리면서 시스템의 부하를 줄이고 연산 속도를 높이는 이른바 'AI경량화' 기술이 각광받고 있다. AI경량화 기술을 활용하면 AI 모델 추론 과정에서 필요한 메모리 사용량과 연산량을 크게 줄일 수 있어 빠른 계산이 가능하다. 특히 AI 기반 서비스 효율성을 높이는 데 매우 효과적이다. 12일 업계에 따르면, 스퀴즈비츠는 'AI경량화' 기술을 선보이며 카카오, 삼성, 포스코,네이버로부터 일찌감치 러브콜을 받았다.

인공지능(AI) 경량화 전문 스타트업 스퀴즈비츠가 서비스형 소프트웨어(SaaS)형 AI 경량화 툴킷 ‘아울라이트(OwLite)’를 출시했다고 21일 밝혔다.

아울라이트는 SaaS형태로 고객사가 자사의 제품에 스퀴즈비츠의 경량화 기술을 쉽고 빠르게 적용할 수 있다. 아울라이트는 AI 추론 속도를 평균 3.6배, 메모리 사용량을 평균 4배 개선한다. 스퀴즈비츠는 이를 통해 AI 서비스 비용을 효율적으로 절감할 수 있다고 설명했다.

“인공지능(AI) 경량화 기술로는 글로벌 기업과 경쟁해도 자신 있습니다. 국내에서 기반을 다진 만큼 올해부터 해외 시장을 적극 공략할 겁니다.” 스퀴즈비츠는 올해를 해외 진출의 원년으로 삼겠다는 계획이다. AI 스타트업이 가장 많이 포진한 북미 시장을 집중 공략한다. 김 대표는 “AI 서비스를 운영하는 스타트업을 주요 고객으로 보고 있다”며 “고객사들의 무기를 더 잘 벼려줄 수 있도록 하겠다”고 강조했다.

딥테크 스타트업 스퀴즈비츠는 AI 서비스의 효율적인 사용을 돕는 AI 경량화 기술을 개발한다. AI 서비스의 추론 속도와 메모리 사용량을 개선해 비용 절감과 인프라 최적화를 돕는다. 스퀴즈비츠가 출시한 아울라이트(OwLite) 제품은 그간 직접 서비스 형태로 제공하던 경량화 기술을 체계화해 고객이 직접 자사의 프로젝트에 쉽게 적용해 볼 수 있도록 SaaS 형태로 만든 것이다.

김형준 스퀴즈비츠 대표와 팀은 포항공대 대학원 시절 AI 모델 경량화 연구를 시작해, 국제 논문 70편을 발표하고, AI 모델 크기를 30배 줄이며 추론 속도를 크게 향상시킨 기술로 온디바이스 AI 시대를 개척했다. 연구팀은 졸업 후 스퀴즈비츠를 창업, 이 기술을 산업에 적용해 AI 서비스의 운용 비용 절감과 속도 개선을 이뤄냈다.

가장 최근인 올해 1월 25억 규모의 프리-A투자를 유치한 김형준 대표의 스퀴즈비츠는 AI모델의 성능을 유지하면서 추론에 필요한 메모리 사용량과 연산량을 줄여 더 빠르고 가벼운 모델을 만드는 AI 경량화 기술을 개발하는 스타트업입니다. 이번 라운드에는 카카오벤처스, 삼성넥스트와 더불어 포스코기술투자, 포스텍 홀딩스 등이 주요 투자자로 참여했는데요. 김형준 대표는 포스텍(포항공과대학교) 출신으로, 2016년 포스텍 박사과정 졸업 후, 딥러닝 가속기 하드웨어(NPU)를 연구하던 동기들과 함께 스퀴즈비츠를 창업했다고 합니다.

AI 경량화 기술 스타트업 스퀴즈비츠가 카카오벤처스, 삼성넥스트, 포스코기술투자, 포스텍홀딩스로부터 25억원 규모 프리 시리즈A 투자를 유치했다고 23일 밝혔다

흔히 하이테크 기술을 일컫는 '딥테크(Deep-tech)'는 사회에 큰 파장을 일으킬 수 있지만 수면 깊은 곳에 숨어있어 보이지 않는 기술을 의미한다. 당장 성과를 알 수 없는 초기단계 기술인 만큼 성공 가능성도 낮아 민간보다는 공적 자금의 장기 투자가 적합한 분야로 꼽힌다. 알파고를 만든 딥마인드, 챗GPT로 급부상한 오픈AI도 불가능해 보이는 영역을 뚫고 대표 딥테크 기업으로 성장했다.

'하루 70만달러(약 10억원) 이상.

전문가들이 추산하는 챗GPT 운영비다. 대부분이 클라우드 서버를 돌리는 비용이다. 생성형 인공지능(AI) 등장이 세상을 깜짝 놀라게 했지만 아직까지 이를 활용한 버티컬 서비스 출시가 제한적인 데는 이처럼 막대한 비용이 작용한다는 평가다.

인공지능(AI) 경량화 전문 스퀴즈비츠(대표 김형준)는 ‘딥테크 팁스(TIPS)’ 패스트트랙에 선정, 15억원 상당의 R&D 자금을 확보했다고 13일 밝혔다.

대화형 AI 에이전트 기술로 인식되었던 인공 지능 기술은 어느덧 IT 기업들의 시장 순위를 가름 짓는 핵심 기술 분야가 되었다.

스퀴즈비츠(대표 김형준)는 지난달 생성 인공지능(AI) '스테이블 디퓨전'을 이용해 모바일에서 고작 7초만에 이미지를 생성하는 데모를 선보여 주목받았다.

SqueezeBits optimizes ‘Stable Diffusion’, a representative image generation AI model, for Android smartphones and achieves world’s fastest processing speed

인공지능(AI) 스타트업 스퀴즈비츠(대표 김형준)는 이미지 생성 AI 모델인 '스테이블 디퓨전'을 경량화, 안드로이드 스마트폰에서 구동하는 데모 영상을 홈페이지에 공개했다고 13일 밝혔다.

인공지능(AI) 경량화 솔루션 스타트업 스퀴즈비츠는 이미지 생성 AI 모델인 스테이블디퓨전을 가볍게 바꿔 안드로이드 스마트폰에서 구동하는 데모(시범) 영상을 자사 홈페이지에 공개했다고 13일 밝혔다.

인공지능(AI) 개발기업이 공통적으로 고민하는 부분이 있다. 방대한 데이터 양을 어떻게 다루냐다.

일반적으로 AI 성능은 학습하는 데이터 양에 비례한다. 기업들도 초거대 AI 개발에 역량을 쏟는다. 문제는 AI 모델이 커질수록 비용과 리소스 부담이 커진다는 점이다. 이때 필요한 것이 'AI 경량화' 기술이다.

글로벌 미디어가 지난 11월 9일(수)부터 11일(금)까지 서울 동대문디자인플라자(DDP)에서 열린 글로벌 스타트업 축제 컴업(COMEUP) 2022에서 ‘BEST OF COMEUP 2022, 글로벌 미디어 어워즈 (Global Media Awards)’를 선정했다.

SK텔레콤은 인공지능(AI), 메타버스, 사물인터넷(IoT), 클라우드, 스마트팩토리 등 5G 특화 서비스 분야의 우수 스타트업 14개사를 선발해 내년 2월까지 6개월간 지원한다고 오늘(23일) 밝혔습니다.

AI 경량화 기술 스타트업 ‘스퀴즈비츠’가 네이버 D2SF와 포스텍 홀딩스로부터 시드 투자를 유치했다. 스퀴즈비츠는 올해 3월 창업한 스타트업으로, 4-bit 이하 양자화 기술을 통해 AI 모델을 극한으로 압축하여 가속화하는 솔루션을 개발하고 있다.

“6~7년간 강남에서 스타트업을 짝사랑하고, 구애하는 과정을 통해 좋은 투자를 많이 이끌어냈고, 이젠 분당에서 실제 다양한 실험을 해볼 수 있게 됐다. 짝사랑의 결과는 시너지다. (중략) 특히 네이버는 인공지능(AI), 데이터 분석·예측 기술에 관심이 많다.”

올 3월 창업한 스퀴즈비츠란 스타트업은 인공지능(AI) 모델의 경량화 및 가속화 솔루션을 개발하는 곳이다. 쉽게 말해 다른 회사의 AI 기술력을 끌어올려주는 AI 분야의 '과외 선생' 같은 역할을 한다. 이 회사의 솔루션을 활용하면 AI 연산처리 속도를 극한으로 향상시킬 수 있다.

창업 3개월도 채 안 돼 네이버로부터 러브콜을 받은 29세 ‘청년 대표님’이 화제다. AI(인공지능) 경량화 솔루션을 개발 중인 스퀴즈비츠 창업자들이 그 주인공이다. 네이버가 떡잎부터 알아봤다는 기술력에 업계의 관심이 쏟아지고 있다. 공동 창업자 중 한 사람인 김형준 대표와 서면인터뷰를 통해 투자 유치 과정 및 회사 비전에 대해 들어봤다.

최근 다양한 산업분야에서 폭넓게 인공지능(AI)를 활용하고 있고, 효율적으로 AI 성능을 극대화하는 것이 중요한 화두로 떠오르고 있다. 네이버 D2SF(D2 Startup Factory)가 인공지능 성능 향상을 위한 AI 기술을 개발 중인 스타트업 2곳에 신규 투자했다.

네이버가 AI(인공지능), 로봇 등 미래 기술 외연 확장에 적극적인 행보를 보이고 있다. 관련 기술을 개발 중인 스타트업를 대상으로 투자 확대를 이어가면서다.

네이버 D2SF(D2 Startup Factory)는 28일 서울 서초구 D2SF@강남에서 '네이버 D2SF 밋업' 행사를 열고 네이버의 신규 투자를 받게 된 AI 스타트업 2곳과 최근 후속 투자를 받게 된 로보틱스 스타트업 2곳 등 총 4곳의 스타트업을 소개했다.

AI 기술이 전 산업에서 빠르게 도입되고 있지만, 실제 비즈니스 성장이나 이용자 가치를 실현하려면 넘어야 할 허들이 많습니다. 특히 하이퍼스케일 AI가 등장하며 AI로 더 많은 문제를 해결할 수 있게 된 이면에는, 초대규모로 커진 AI 모델을 처리하기 위한 비용 및 리소스 부담이 존재합니다.