답변게시됨20 소스
바이두 ERNIE-5.5-Flash-Base, 챗봇 대신 개발자를 위한 기반 모델
바이두가 2026년 11월 5일 공개한 ERNIE 5.5 Flash Base는 바로 대화에 쓸 챗봇이 아니라 추가 학습을 위한 사전학습 체크포인트입니다. 전체 매개변수는 2800억 개이며 토큰당 약 140억 개를 활성화합니다.
게시자GPT-6 Luna로 편집GPT Image 2로 이미지 생성
연구 답변
주요 시사점
- 바이두가 2026년 11월 5일 공개한 ERNIE 5.5 Flash Base는 바로 대화에 쓸 챗봇이 아니라 추가 학습을 위한 사전학습 체크포인트입니다.
- 전체 매개변수는 2800억 개이며 토큰당 약 140억 개를 활성화합니다. 사전학습 문맥 길이는 최대 12만 8000토큰, 미세조정·추론은 최대 100만 토큰입니다.[3]
- 바이두가 공개한 벤치마크 점수는 MMLU 93.3, HumanEval+ 82.3입니다. 독립 평가로 확인된 우위로 해석하기는 어렵습니다.[4][44]
- 전용 라이선스는 비상업적 사용과 일정 조건을 충족하는 상업적 사용을 허용하지만, 사용 허용 지역에서 한국·EU·영국을 제외합니다.[31][35]
AI 프롬프트
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Baidu release with ERNIE-5.5-Flash-Base on November 5, 2026, and what should developers know about its open-weight, pre-training-on. Article summary: On November 5, 2026, Baidu released ERNIE-5.5-Flash-Base’s downloadable weights: a text-only, pre-training checkpoint, not a finished chat assistant.[5][9] Developers should treat it as a foundation for further training . Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
바이두는 2026년 11월 5일 ERNIE-5.5-Flash-Base의 다운로드 가능한 가중치를 공개했습니다. 다만 이번 공개물은 대화형 AI 서비스가 아니라 사전학습을 마친 텍스트 전용 체크포인트입니다. 개발자가 특정 분야에 맞춰 추가 학습하거나, 지시 수행 학습과 강화학습 연구를 진행할 출발점에 가깝습니다. 가중치를 내려받을 수 있다고 해서 사용 조건까지 제한 없는 것은 아닙니다.2
3
17
35
곧바로 대화형 챗봇으로 쓸 수는 없다
이 모델은 사전학습 이후의 중간 학습이나 후속 학습을 거치지 않았습니다. 따라서 지시를 잘 따르거나 대화에 바로 투입할 수 있는 완성형 비서의 성능을 기대하기 어렵습니다. 바이두는 후속 학습을 마친 버전을 추후 공개할 예정이라고 밝혔습니다.2
10
현재 공개된 모델의 용도는 개발자가 직접 이어서 학습하는 것입니다. 예컨대 특정 분야에 맞게 적응시키거나, 지시를 따르도록 조정하거나, 강화학습 연구에 활용할 수 있습니다.3
17
전체 2800억 개, 토큰마다 활성화되는 건 약 140억 개
ERNIE-5.5-Flash-Base는 총 2800억 개의 매개변수를 갖춘 전문가 혼합(MoE) 모델입니다. 하지만 각 토큰을 처리할 때는 그중 약 140억 개가 활성화됩니다. 바이두는 모델을 처음부터 33조 5000억 개 토큰으로 학습했다고 설명합니다.3
구조는 43개 층으로 이뤄져 있습니다. 이 가운데 하나는 일반적인 피드포워드 층이고, 나머지 42개는 다중 라우터 잠재 MoE 층입니다. 각 MoE 층에서는 512개 전문가 가운데 10개를 선택하고, 여기에 공유 전문가 하나를 더 사용합니다.4
9
어텐션 구조도 두 방식을 섞었습니다. 37개 층은 128토큰 블록마다 캐시 항목 하나를 저장하는 고압축 어텐션을 사용하며, 짧은 슬라이딩 윈도우도 함께 둡니다. 나머지 6개 층은 희소 어텐션을 적용한 다중 헤드 잠재 어텐션을 씁니다.4
9 이런 설계는 긴 문맥을 처리하는 비용을 줄이려는 접근입니다. 다만 토큰당 140억 개만 활성화된다는 말이 모델 전체가 140억 매개변수 모델만큼 작다는 뜻은 아닙니다.
벤치마크 점수는 참고 자료로 봐야
바이두가 공개한 결과에 따르면 모델은 MMLU에서 93.3점을 기록했습니다. HumanEval+ 점수로는 82.3이 보고됐습니다.4
44 이 수치는 모델을 살펴볼 때 참고할 만하지만, 다른 모델보다 뛰어나다는 사실을 독립적으로 입증한 결과로 받아들여서는 안 됩니다. 현재 공개된 자료에는 해당 결과를 독립적으로 재현한 평가가 제시돼 있지 않습니다.
실제 도입을 검토하는 개발자라면 자신의 작업에 맞춰 모델을 시험하고, 같은 조건으로 평가한 다른 모델과 비교하는 편이 좋습니다. 사전학습만 마친 모델은 이후 어떤 방식으로 미세조정하느냐에 따라 결과가 달라질 수 있어, 벤치마크 점수만으로 실제 성능을 단정하기 어렵습니다.
긴 문맥 지원이 곧 ‘바로 쓰는 서비스’는 아니다
모델은 Hugging Face에서 내려받을 수 있으며, FP8과 BF16 버전이 제공됩니다.3
17 사전학습 단계의 최대 문맥 길이는 12만 8000토큰이고, 미세조정과 추론에서는 최대 100만 토큰을 지원합니다.
3
긴 문맥을 다룰 수 있다는 점은 개발자가 활용해 볼 수 있는 기능이지, 별도 설정 없이 곧바로 운영할 수 있다는 의미는 아닙니다. 모델을 배포하거나 추가 학습하려면 호환되는 환경이 필요하며, 전체 체크포인트의 용량과 구조를 고려해 하드웨어도 계획해야 합니다.3
9
한국은 라이선스상 사용 허용 지역에서 제외
ERNIE-5.5-Flash-Base에는 전용 라이선스인 ‘ERNIE 5.5 Flash Base Model License Agreement v1.0’이 적용됩니다. 라이선스가 정의한 사용 허용 지역에는 전 세계 대부분이 포함되지만, 한국·유럽연합(EU)·영국은 제외됩니다.35 따라서 한국에서 사용할 계획이라면 다운로드 가능 여부와 별개로 라이선스상 허용 범위를 먼저 확인해야 합니다.
보도된 조건에 따르면 비상업적 사용에는 모델 라이선스 비용이 없습니다. 관련 제품·서비스의 연 매출이 5000만 달러 이하인 상업적 사용도 고지와 출처 표시 등의 조건을 지키면 라이선스 비용이 면제됩니다. 이 기준을 넘는 경우에는 별도의 서면 승인이 필요합니다.31
43 배포 방식이나 상업적 이용 계획에 따라 적용 조건이 달라질 수 있으므로 실제 사용 전에는 라이선스 원문을 확인해야 합니다.
핵심은 ‘완성품’이 아니라 학습의 출발점
ERNIE-5.5-Flash-Base는 자체적으로 추가 학습을 진행하려는 팀을 위한 대형 기반 모델입니다. 총 2800억 개, 토큰당 약 140억 개 활성 매개변수, 미세조정·추론 시 최대 100만 토큰 문맥 지원이 기술적 특징입니다. 하지만 도입 여부를 판단할 때는 모델을 원하는 용도로 다듬고 운영하는 데 필요한 작업뿐 아니라 라이선스가 해당 지역과 사용 목적을 허용하는지도 따져야 합니다.3
10
35
Studio Global AI
연구를 계속하세요
이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.
사람들은 또한 묻습니다.
"바이두 ERNIE-5.5-Flash-Base, 챗봇 대신 개발자를 위한 기반 모델"에 대한 짧은 대답은 무엇입니까?
바이두가 2026년 11월 5일 공개한 ERNIE 5.5 Flash Base는 바로 대화에 쓸 챗봇이 아니라 추가 학습을 위한 사전학습 체크포인트입니다.
먼저 검증할 핵심 포인트는 무엇인가요?
바이두가 2026년 11월 5일 공개한 ERNIE 5.5 Flash Base는 바로 대화에 쓸 챗봇이 아니라 추가 학습을 위한 사전학습 체크포인트입니다. 전체 매개변수는 2800억 개이며 토큰당 약 140억 개를 활성화합니다. 사전학습 문맥 길이는 최대 12만 8000토큰, 미세조정·추론은 최대 100만 토큰입니다.[3]
실무에서는 다음으로 무엇을 해야 합니까?
바이두가 공개한 벤치마크 점수는 MMLU 93.3, HumanEval+ 82.3입니다. 독립 평가로 확인된 우위로 해석하기는 어렵습니다.[4][44]