Архітектура World-Action Model: Прогнозування відео, а не імітація дій

Архітектура DYNA-2 базується на генерації відео, а не на адаптерах Vision-Language-Action (VLA), які домінували в робототехніці . Під час попереднього навчання модель виконує подвійне завдання: вона прогнозує як наступний відеокадр, так і наступну дію з корпусу людського відео . Цей підхід дозволяє моделі побудувати внутрішню модель фізики контакту та просторового мислення — вивчаючи причинно-наслідкові зв'язки між діями та їхніми фізичними наслідками — яка переноситься на різні типи роботів, жодного разу не побачивши робота під час попереднього навчання .

Корпус попереднього навчання: Компанія побудувала чотири вкладені підмножини егоцентричного людського відео — 1 000, 10 000, 100 000 і 1 000 000 годин — причому під час попереднього навчання не використовувалися жодні дані про дії робота . Після попереднього навчання модель доналаштовується на відносно невеликій кількості реальних роботизованих даних (години або навіть хвилини), щоб перенести вивчену фізичну інтуїцію на конкретне обладнання .

Перший закон масштабування перенесення з людини на робота

Dyna Robotics повідомила про те, що вона називає першим законом масштабування перенесення між різними типами тіл (cross-embodiment transfer) у маніпуляціях . Це відкриття є значущим, оскільки демонструє, що масштабування даних людського відео призводить до передбачуваних, монотонних покращень продуктивності робота — дзеркально відображаючи закони масштабування, які трансформували великі мовні моделі.

• Закон масштабування на людських даних: У всіх чотирьох порядках величини (1K → 10K → 100K → 1M годин) усі показники якості прогнозування відео покращувалися монотонно, добре описуючись степеневим законом, причому плато не спостерігалося .

• Закон переноситься на раніше небачені роботизовані дані: Ті самі контрольні точки були оцінені zero-shot на 39 різних роботизованих завданнях на двох стаціонарних двома-руких платформах. Продуктивність монотонно покращувалася в міру зростання обсягу попереднього навчання на людському відео, до будь-якого доналаштування під конкретного робота . Один аналіз показав, що фіксація даних з позначеними діями на рівні 50 000 годин і додавання лише відео-годин знизило zero-shot помилку MSE дій робота з 0,340 до 0,120 .

• Масштабування продуктивності після доналаштування: Після доналаштування середній нормалізований показник на 14 роботизованих завданнях зріс з 20% → 28% → 45% → 53% від досяжного максимуму в міру збільшення масштабу попереднього навчання з 1K до 1M годин .

Покращення рівня успішності виконання завдань

Найпомітніші успіхи DYNA-2 спостерігаються в трьох ключових областях:

• Високоточне виробництво: DYNA-2 підвищив рівень успішності завдань приблизно з 20% до 80–90% виключно за рахунок збільшення масштабу попереднього навчання, без жодних змін у даних для доналаштування . Це в 4–4,5 рази кращий результат, досягнутий просто завдяки перегляду більшої кількості людського відео.

• Zero-shot впровадження у клієнтів: На реальних об'єктах клієнтів DYNA-2 досяг 87% проходження контролю якості порівняно з 46% у попередника на базі VLA, DYNA-1 — покращення на 41 процентний пункт за однакових бюджетів на доналаштування . У прямих фізичних порівняннях з ідентичними умовами навчання DYNA-2 виконував завдання , ніж DYNA-1, і виграв .

• Відкручування кришки пляшки (13 хвилин даних): Маючи лише 13 хвилин демонстраційних даних, специфічних для робота, DYNA-2 був адаптований для керування парою п'ятипалих маніпуляційних рук, щоб відкрутити кришку пляшки . У технічному звіті компанії уточнюється, що це було приблизно роботизованих даних, причому масштаб попереднього навчання підвищив успішність з 10% при менших бюджетах до 40–50% при повному бюджеті в 1 млн годин .

Наслідки для майбутнього робототехніки

Результати DYNA-2 кидають виклик панівному припущенню, що роботам потрібні величезні обсяги специфічних для завдання роботизованих даних. Демонструючи закон масштабування, який переноситься з людського відео на роботизоване обладнання, Dyna Robotics відкриває практичний шлях до 10 мільйонів годин навчальних даних — з потенціалом дозволити роботам опановувати нові фізичні завдання всього за кілька годин локального доналаштування . Наразі модель працює як керована постачальником система; Dyna Robotics не оголосила про публічний чекпоінт, API або ліцензію для DYNA-2 . Незалежне відтворення результатів дослідницькою спільнотою робототехніки стане наступним кроком у підтвердженні цих досягнень .

Архітектура World-Action Model: Прогнозування відео, а не імітація дій

Архітектура DYNA-2 базується на генерації відео, а не на адаптерах Vision-Language-Action (VLA), які домінували в робототехніці . Під час попереднього навчання модель виконує подвійне завдання: вона прогнозує як наступний відеокадр, так і наступну дію з корпусу людського відео . Цей підхід дозволяє моделі побудувати внутрішню модель фізики контакту та просторового мислення — вивчаючи причинно-наслідкові зв'язки між діями та їхніми фізичними наслідками — яка переноситься на різні типи роботів, жодного разу не побачивши робота під час попереднього навчання .

Корпус попереднього навчання: Компанія побудувала чотири вкладені підмножини егоцентричного людського відео — 1 000, 10 000, 100 000 і 1 000 000 годин — причому під час попереднього навчання не використовувалися жодні дані про дії робота . Після попереднього навчання модель доналаштовується на відносно невеликій кількості реальних роботизованих даних (години або навіть хвилини), щоб перенести вивчену фізичну інтуїцію на конкретне обладнання .

Перший закон масштабування перенесення з людини на робота

Dyna Robotics повідомила про те, що вона називає першим законом масштабування перенесення між різними типами тіл (cross-embodiment transfer) у маніпуляціях . Це відкриття є значущим, оскільки демонструє, що масштабування даних людського відео призводить до передбачуваних, монотонних покращень продуктивності робота — дзеркально відображаючи закони масштабування, які трансформували великі мовні моделі.

• Закон масштабування на людських даних: У всіх чотирьох порядках величини (1K → 10K → 100K → 1M годин) усі показники якості прогнозування відео покращувалися монотонно, добре описуючись степеневим законом, причому плато не спостерігалося .

• Закон переноситься на раніше небачені роботизовані дані: Ті самі контрольні точки були оцінені zero-shot на 39 різних роботизованих завданнях на двох стаціонарних двома-руких платформах. Продуктивність монотонно покращувалася в міру зростання обсягу попереднього навчання на людському відео, до будь-якого доналаштування під конкретного робота . Один аналіз показав, що фіксація даних з позначеними діями на рівні 50 000 годин і додавання лише відео-годин знизило zero-shot помилку MSE дій робота з 0,340 до 0,120 .

• Масштабування продуктивності після доналаштування: Після доналаштування середній нормалізований показник на 14 роботизованих завданнях зріс з 20% → 28% → 45% → 53% від досяжного максимуму в міру збільшення масштабу попереднього навчання з 1K до 1M годин .

Покращення рівня успішності виконання завдань

Найпомітніші успіхи DYNA-2 спостерігаються в трьох ключових областях:

• Високоточне виробництво: DYNA-2 підвищив рівень успішності завдань приблизно з 20% до 80–90% виключно за рахунок збільшення масштабу попереднього навчання, без жодних змін у даних для доналаштування . Це в 4–4,5 рази кращий результат, досягнутий просто завдяки перегляду більшої кількості людського відео.

• Zero-shot впровадження у клієнтів: На реальних об'єктах клієнтів DYNA-2 досяг 87% проходження контролю якості порівняно з 46% у попередника на базі VLA, DYNA-1 — покращення на 41 процентний пункт за однакових бюджетів на доналаштування . У прямих фізичних порівняннях з ідентичними умовами навчання DYNA-2 виконував завдання , ніж DYNA-1, і виграв .

• Відкручування кришки пляшки (13 хвилин даних): Маючи лише 13 хвилин демонстраційних даних, специфічних для робота, DYNA-2 був адаптований для керування парою п'ятипалих маніпуляційних рук, щоб відкрутити кришку пляшки . У технічному звіті компанії уточнюється, що це було приблизно роботизованих даних, причому масштаб попереднього навчання підвищив успішність з 10% при менших бюджетах до 40–50% при повному бюджеті в 1 млн годин .

Наслідки для майбутнього робототехніки

Результати DYNA-2 кидають виклик панівному припущенню, що роботам потрібні величезні обсяги специфічних для завдання роботизованих даних. Демонструючи закон масштабування, який переноситься з людського відео на роботизоване обладнання, Dyna Robotics відкриває практичний шлях до 10 мільйонів годин навчальних даних — з потенціалом дозволити роботам опановувати нові фізичні завдання всього за кілька годин локального доналаштування . Наразі модель працює як керована постачальником система; Dyna Robotics не оголосила про публічний чекпоінт, API або ліцензію для DYNA-2 . Незалежне відтворення результатів дослідницькою спільнотою робототехніки стане наступним кроком у підтвердженні цих досягнень .