작은 언어모델(SLM)로 전환: AI 효율성과 보안성 동시 확보 기업들은 대규모 언어 모델의 위험을 줄이기 위해 작은 언어모델(SLM)도입을 확대하고 있다.

세일즈포스는 2023년 70억 개의 매개변수를 가진 XGen-7B를 출시했으며, 구글과 엔비디아도 저지연 SLM을 개발했다.

Do Not Train 레지스트리 구축, 디지털.

언어모델이 많이 활용되는 챗봇 쿼리 대부분은 LLM 수준의 고도화된 추론 능력이 필요하지 않다"며 "일반적인 작업은 소형언어모델(SLM)로 처리하고 복잡한 작업만 LLM을 활용해 속도를 단축하면서도 성능을 유지할 수 있다"고 말했다.

LG AI연구원도 지난해 말 파라미터 수 320억개에 불과한 엑사원 3.

https://twitter.

com/sama/status/1891667332105109653 하지만 더 중요한 점은 두 모델이 모두 온디바이스용 소형언어모델(sLM)이라는 것이다.

휴대폰 칩에 탑재할만한 작은 모델 개발은 지난해부터 대부분 업체의 주요 프로젝트였지만, 오픈AI는 한번도 이를 시도한 바 없다.

이에 따라 오픈AI가 sLM을 오픈 소스로.

또 고성능 소형언어모델(sLM)을 구축, 정보 유출을 차단하고 초기 도입 부담을 줄였다고 소개했다.

이를 통해 ▲사용자 질문 유형을 분석해 최적화된 검색 방법 적용 ▲사용자가 원하는 목록의 자료만 검색 ▲여러 문서 내용을 조합하고 출처와 미리보기를 표시하는 등의 방법으로 답변 정확도를 높였다고.

세미나의 마지막은 이영준 원자력연구원 정책연구실장의 'sLLM(소형언어모델, smaller Large Language Model) 기술'에 대한 강연을 통해 ‘LLM, sLLM,sLM간의 차이점’을 알아보고 sLLM의 내부 구축형과 서비스형 소프트웨어(SaaS)방식 등 다양한 구현에 대해 공유했다.

한전KDN은 이번 세미나를 통해 정보보안.

흥신소비용

20일 LG유플러스에 따르면 이 회사가 LG AI연구원의 '엑사원'을 기반으로 만든 소형언어모델(SLM)익시젠은 다음 달 5일 스페인 바르셀로나에서 열리는 세계이동통신사업자연합회(GSMA) 주관 '레드팀 챌린지'에서 안전성 검증 대상이 된다.

익시젠은 현재 LG유플러스가 네트워크 업무나 챗 에이전트, 모바일.

CPC는 엔비디아의 '에이스(ACE)' 기술로 구축된 게임 특화 온디바이스 소형 언어모델(SLM)을 기반으로, 게임 이용자와 상호작용하는 새로운 개념의 캐릭터다.

기존에 입력된 행동만을 반복하는 NPC(Non-Player Character)와 달리 이용자와 대화하고 협력하며 사람처럼 상황을 인식하고 유연하게 대응하는.

익시젠은 LG AI연구원의 '엑사원'을 기반으로 제작한 소형언어모델(sLM)이다.

이번 챌린지 참여를 통해 익시젠의 성능과 안전성을 글로벌 시장에 소개하고, 발견된 취약점을 개선해 AI 모델을 고도화할 방침이다.

한편, MWC 주최인 세계이동통신사업자연합(GSMA)의 '텔코 AI' 리포트에는 익시오의 핵심.

또 "소형언어모델(sLM)을 안 하겠다는 것이 아니다"라며 "제조, 유통, 검색 등 각 산업에 필요한 기술이 다른 만큼 이들에 대한 투자도 잊지 않고 지원하겠다"고 덧붙였다.

정예팀 선정 규모에 대해선 5~10곳을 염두 중인 것으로 나타났다.

다만 그는 "예산에 달렸다"며 "필요한 GPU 개수와 인재를 위한 투자.

소형언어모델(SLM)에 집중하는 편이 효율적일 수도 있다는 의견엔 "파운데이션 모델을 개발하면서 인력과 기술력이 축적됐다면 SLM으로도 많은 개발자가 공급되는 AI생태계를 생각하고 있다"며 선을 그었다.

이 단장은 "SLM을 안 하겠다는 것이 아니다.

제조, 유통, 검색 등 각 산업에 필요한 기술이 다른 만큼.