Waarom ByteDance liever achteropraakt dan AI-modellen van rivalen kopieert

ByteDance-oprichter Zhang Yiming zou een strikte regel voor het AI-team Seed opnieuw hebben bevestigd: gebruik geen distillatie om modellen te verbeteren met antwoorden van concurrerende systemen. Zelfs niet als dat betekent dat ByteDance op korte termijn terrein verliest op benchmarks. Reuters beschreef de instructie als een keuze voor langetermijnontwikkeling boven snelle winst. 1

Bij modeldistillatie leert een minder krachtig model van de antwoorden van een sterker model. Dat kan de ontwikkeling versnellen en bepaalde vaardigheden goedkoper helpen nabootsen. Maar bij Seed leeft volgens de berichtgeving de vrees dat ByteDance zo vooral een zeer capabele volger wordt: een onderzoeksteam dat afhankelijk blijft van de methodes, evaluaties en opvatting van intelligentie van een ander laboratorium. 49

Van GPT-data naar een algemeen verbod

2023: GPT-antwoorden worden onwenselijk als trainingsdata

Volgens berichtgeving die is samengevat door Pekingnology en Pandaily experimenteerden vroege Seed-teams met materiaal dat via de GPT-API was gegenereerd. Nadat ByteDance in april 2023 controles op API-aanroepen had ingevoerd, zou het team een regel hebben opgesteld waarbij door GPT gegenereerde data niet langer in trainingsdatasets van ByteDance mocht terechtkomen. Die regel werd later uitgebreid naar concurrerende modellen in het algemeen. 914

Dat onderscheid is belangrijk. Het zou niet alleen zijn gegaan om een verbod op het gebruik van één specifieke, commerciële API. De achterliggende keuze werd breder: een model van een ander bedrijf — gesloten of met openbaar gemaakte gewichten — mocht niet als leraar voor Seed dienen. 910

2025: DeepSeek-R1 wakkert de discussie opnieuw aan

De discussie zou in januari 2025 opnieuw zijn opgelaaid, nadat DeepSeek-R1 sterke redeneerprestaties en efficiëntie liet zien. Sommige Seed-onderzoekers zouden hebben betoogd dat antwoorden van krachtigere Amerikaanse systemen het eigen trainingswerk van ByteDance konden aanvullen en de ontwikkeling van redeneervermogen versnellen. Volgens de berichtgeving bleef Zhang bij zijn standpunt: ook dat zou neerkomen op het lenen van andermans capaciteiten. 9

Er wordt in de sector gespeculeerd dat DeepSeek zelf synthetische data van geavanceerde Amerikaanse modellen zou hebben gebruikt. In het beschikbare bewijs is dat echter niet onafhankelijk vastgesteld. Die speculatie moet niet worden verward met de afzonderlijke, beter onderbouwde berichtgeving over de interne regel bij Seed.

2026: De druk om toch te distilleren neemt toe

De verleiding werd groter naarmate Chinese AI-ontwikkelaars onder zware concurrentiedruk kwamen te staan — op het gebied van chips, modelprestaties en benchmarkposities. Volgens de berichtgeving volgde Seed de snelle vooruitgang van de leidende modellen, terwijl Moonshots Kimi K3 zich ontwikkelde tot een krachtig model met openbaar gemaakte gewichten dat concurrenten konden inspecteren en mogelijk als bron voor trainingsdata konden gebruiken. 914

Daarmee werd de regel een concrete strategische afweging. Distillatie zou een gemeten achterstand mogelijk snel kunnen verkleinen. Wie daarvan afziet, loopt het risico achter te blijven terwijl concurrenten sneller vooruitgaan. Tijdens een gemelde personeelsbijeenkomst van Seed in 2026 zou Zhang de keuze desondanks expliciet hebben gemaakt: tijdelijke achterstand was te verkiezen boven het distilleren van rivaliserende systemen. 110

Waarom ook modellen met openbare gewichten?

De gemelde regel is opvallend breed omdat hij volgens de berichtgeving draait om afhankelijkheid, niet alleen om toegangsrechten. Een gesloten model dat via een API wordt benaderd en een model met openbare gewichten roepen verschillende juridische en technische vragen op. Strategisch kunnen ze echter hetzelfde risico opleveren: een ontwikkelaar traint op de oplossingen van een ander laboratorium in plaats van zelf nieuwe oplossingen te ontdekken. 914

Dat betekent niet dat elk gebruik van openbare modelgewichten hetzelfde is, of dat iedere vorm van gebruik onrechtmatig zou zijn. Wel zou Seed een strengere interne norm hanteren dan een standaardverbod op ongeoorloofd verzamelen van API-antwoorden. De beschikbare berichtgeving zegt dat andere geavanceerde modellen niet als leraar mochten worden gebruikt, ook niet wanneer hun gewichten openbaar waren gemaakt. 1014

De Claude-beschuldigingen geven de kwestie extra gewicht

De betekenis van het beleid werd groter tegen de achtergrond van beschuldigingen aan het adres van andere Chinese AI-bedrijven. Anthropic beschuldigde Alibaba, DeepSeek, Moonshot, MiniMax en Z.ai ervan accounts of tussenpersonen te hebben gebruikt om antwoorden van Claude te verzamelen voor training. ByteDance werd in die beschuldiging niet genoemd. Een Amerikaanse overheidsfunctionaris beschuldigde Moonshot daarnaast van ongeoorloofd gebruik van Anthropic-modellen bij de training van Kimi K3. Dit blijven beschuldigingen; ze zijn niet vastgesteld door het bewijs dat hier beschikbaar is. 69

Cruciaal is dat de gemelde beperking bij Seed al uit 2023 dateert, dus van vóór de latere politieke controverse. Die beschuldigingen lijken Zhangs standpunt daarom eerder extra gewicht te hebben gegeven dan het beleid te hebben veroorzaakt. 9

De onderliggende gok: onafhankelijkheid boven imitatie

Zhangs gemelde redenering draait uiteindelijk om de vraag hoe geavanceerde AI wordt ontwikkeld. Distillatie kan antwoorden, redeneerpatronen en benchmarkprestaties snel verbeteren. Maar als een onderzoeksteam herhaaldelijk op de uitvoer van een concurrent traint, kan het zich ook gaan richten op diens manier om intelligentie vorm te geven: de gekozen probleemopdeling, beloningssignalen, gewenste antwoorden en evaluatiedoelen. 910

Seed zou daarom voor de langzamere route kiezen: investeren in eigen data, trainingsmethodes, architectuur en onderzoeksprioriteiten. Dat heeft een duidelijke prijs. Het team kan op ranglijsten achterblijven terwijl concurrenten alle beschikbare snelkoppelingen benutten. De gehoopte opbrengst is meer onafhankelijkheid en de mogelijkheid om doorbraken te ontwikkelen die niet worden begrensd door de ontwerpkeuzes van de huidige marktleider.

De beslissing is dus geen bewering dat distillatie technisch nutteloos is. Het is een oordeel dat snelle capaciteitswinst mogelijk niet opweegt tegen langdurige afhankelijkheid. Voor ByteDance maakt Zhangs gemelde instructie die afweging ongewoon helder: Seed verkiest een nederlaag in de race van vandaag boven een toekomst die is gebouwd op de antwoorden van iemand anders. 19