Revolut buduje własny „mózg” bankowości. Tak działa model PRAGMA

Co ogłosił Revolut?

Revolut uruchomił Revolut Research — odrębną jednostkę badawczą działającą w ramach szerszej organizacji zajmującej się sztuczną inteligencją. Jej zadaniem jest prowadzenie badań nad uczeniem maszynowym przeznaczonym konkretnie dla usług finansowych i przekładanie ich na rozwiązania stosowane w produkcji.

Dział ma pełnić funkcję badawczego „silnika” programu PRAGMA, czyli modelu bazowego rozwijanego przez Revolut we współpracy z Nvidią. Nie chodzi więc o wdrażanie kolejnych, gotowych narzędzi AI od zewnętrznych dostawców, lecz o budowę własnej, wspólnej warstwy technologicznej dla wielu funkcji bankowych. 61013

„Build, don’t bolt on” — jedna baza zamiast wielu dodatków

Hasło Revoluta „build, don’t bolt on” można przetłumaczyć jako „buduj, zamiast doczepiać”. W praktyce oznacza ono odejście od modelu, w którym każda funkcja — na przykład wykrywanie oszustw, scoring kredytowy czy rekomendacje — korzysta z osobnego modelu, osobnych tabel cech i oddzielnego procesu utrzymania.

PRAGMA ma działać jako wspólny fundament. Raz wytrenowana reprezentacja zachowań finansowych może być następnie dostosowywana do konkretnych zadań, takich jak:

• ocena zdolności kredytowej i ryzyka niewypłacalności,
• wykrywanie oszustw,
• segmentacja klientów,
• personalizacja ofert i rekomendacji produktów,
• analiza zaangażowania klientów oraz innych zachowań finansowych. 610

Taki układ ma ograniczyć silosy technologiczne i ułatwić rozwijanie kolejnych zastosowań bez budowania całego stosu uczenia maszynowego od zera dla każdego produktu.

Czym jest PRAGMA?

Nazwa PRAGMA rozwija się jako PRe-trained Banking Foundation Model — w przybliżeniu: wstępnie wytrenowany bazowy model bankowy. To nie jeden model, lecz rodzina modeli typu encoder, opartych na architekturze Transformer i zaprojektowanych do pracy z sekwencjami zdarzeń bankowych. Opublikowana rodzina obejmuje warianty od 10 mln do 1 mld parametrów. 1

W przeciwieństwie do popularnych modeli językowych PRAGMA nie uczy się przede wszystkim tekstu. Jego materiałem wejściowym są zdarzenia finansowe: płatności, przelewy oraz inne sygnały związane z produktami i zachowaniem użytkowników. Model uczy się zależności między tymi zdarzeniami, także wtedy, gdy występują one w długich i nieregularnych historiach klienta. 110

Podczas wstępnego treningu wykorzystywane jest samouczenie z maskowaniem. Fragmenty sekwencji są ukrywane, a model próbuje odtworzyć brakujące informacje. Dzięki temu może nauczyć się ogólnych wzorców zachowań bez ręcznego opisywania każdego przypadku przez człowieka. Później jego reprezentacje można dostosować do konkretnego zadania, między innymi za pomocą lekkiego dostrajania LoRA. 1

Na jakich danych trenowano model?

Według opisów projektu PRAGMA trenowano na surowych, oznaczonych czasem zdarzeniach bankowych pochodzących z około 26 mln historii klientów. Zbiór obejmował około 24 mld zdarzeń z 111 krajów. 110

Sformułowanie, że model został „opracowany przez Nvidię”, wymaga doprecyzowania: dostępne materiały opisują PRAGMA jako projekt wspólnie rozwijany przez Revolut i Nvidię, a nie produkt stworzony wyłącznie przez producenta układów graficznych. 1013

Infrastruktura Nvidii i kwestia układu H100

Projekt korzysta z infrastruktury przyspieszanego obliczania Nvidii. Studium przypadku firmy wskazuje na wykorzystanie procesorów graficznych Nvidia H100 w chmurze Nebius AI Cloud, a także technik takich jak pakowanie sekwencji i dynamiczne tworzenie partii danych. Mają one zwiększać efektywność treningu długich historii bankowych. 10

Jednocześnie dostępne materiały nie potwierdzają niezależnie dokładnej liczby kart H100 ani topologii całego klastra. Można więc mówić o wykorzystaniu infrastruktury Nvidia i H100, ale nie o konkretnym rozmiarze tego środowiska bez dodatkowych danych.

Jakie wyniki raportuje Revolut?

W studium przypadku opublikowanym przez Nvidię porównano rozwiązanie z produkcyjnymi modelami bazowymi Revoluta. Firma raportuje następujące rezultaty:

• 2,3-krotnie lepszą dokładność identyfikowania ryzyka niewypłacalności,
• 65 proc. więcej wykrytych przypadków oszustw,
• 17 proc. większą precyzję alertów dotyczących oszustw,
• 41 proc. trafniejsze rekomendacje produktów. 6

To deklarowane wyniki benchmarków firmy i Nvidii względem wcześniejszych rozwiązań produkcyjnych. Nie są to niezależnie audytowane rezultaty porównujące PRAGMA z całą branżą. 6

Co wydarzyło się przed startem Revolut Research?

Uruchomienie jednostki nie jest początkiem projektu od zera. Wcześniej opublikowano pracę badawczą opisującą rodzinę modeli PRAGMA, jej architekturę, sposób treningu i wyniki w zadaniach bankowych. Nvidia przedstawiła również studium wdrożeniowe, w którym opisała konsolidację odrębnych systemów odpowiedzialnych za oszustwa, kredyty, zaangażowanie i rekomendacje wokół wspólnego modelu. 16

Revolut Research instytucjonalizuje więc istniejący już program badawczo-rozwojowy i ma połączyć prace naukowe z wdrażaniem ich w usługach finansowych.

Plany badawcze i osoby wskazywane przez Revoluta

Według dostępnych materiałów jednostka zamierza publikować wyniki badań, udostępniać open source wybrane frameworki, uczestniczyć w wydarzeniach GTC Berlin oraz ACM International Conference on AI in Finance (ICAIF), a także organizować kwartalne spotkania naukowe.

W materiałach branżowych jako osoba opisująca sens inicjatywy pojawia się Pavel Nesterov, szef AI w Revolut. Dostępny zapis przypisuje mu wyjaśnienie, że firma chce w ten sposób utrwalić filozofię „build, don’t bolt on”. Dokładne brzmienie wypowiedzi oraz pełną listę osób przedstawionych w oryginalnym komunikacie Revoluta warto jednak sprawdzić w źródłowej publikacji firmy. 6

Jak projekt łączy się z ekspansją Revoluta?

Revolut rozwija model w momencie, gdy skala działalności rośnie do ponad 80 mln klientów na ponad 40 rynkach. W takim środowisku spójne systemy oceny ryzyka, wykrywania nadużyć i personalizacji mogą być ważne zarówno dla efektywności operacyjnej, jak i dla obsługi różnych rynków regulowanych. 45

Kontekst ekspansji w Europie wzmacnia również uzyskanie przez francuską spółkę Revolut Bank S.A. pełnej licencji bankowej po wspólnej ocenie francuskiego nadzoru ACPR i Europejskiego Banku Centralnego. Początkowo działalność ma być rozwijana we Francji, a następnie etapami w kolejnych krajach Europy Zachodniej.

W praktyce Revolut Research ma sprawić, że sztuczna inteligencja stanie się podstawową, wielokrotnego użytku kompetencją banku. Jeden model uczony na szerokich wzorcach zachowań finansowych może być dostosowywany do wielu decyzji regulowanych i doświadczeń klienta, zamiast tworzenia osobnego rozwiązania dla każdej funkcji. 610