Start z polskim AI. Od pomysłu do wdrożenia #Intel

Start z polskim AI to cykl rozmów prezentujących doświadczenia związane z polskimi modelami językowymi AI oraz praktyki wdrożeniowe firm i instytucji. Tym razem w rozmowie wzięli udział Alicja Gargas oraz Bartosz Ciepluch z firmy Intel. 

Jakie działania prowadzicie w zakresie wspierania polskich modeli LLM? 

Bartosz: My w pewnym stopniu kontrybuujemy do rozwoju modeli, głównie poprzez własne badania, natomiast z perspektywy naszego głównego biznesu nie jest to obszar, w który Intel bezpośrednio inwestuje. Naszą główną rolą jest dostarczanie infrastruktury, która umożliwia uruchamianie tych modeli. Z punktu widzenia większości przedsiębiorców, szczególnie tych średnich i mniejszych, często o niższym poziomie zaawansowania technologicznego, kluczowa jest prostota. Szukają oni rozwiązań typu „one click”, które pozwolą szybko wdrożyć sztuczną inteligencję bez konieczności ponoszenia wysokich kosztów związanych z usługami chmurowymi. W tym kontekście rola Intela polega na pokazywaniu, jak uruchamiać konkretne zastosowania AI, za którymi stoją określone modele, oraz jak robić to efektywnie, często w oparciu o dostępne zasoby. W praktyce oznacza to dostarczanie gotowych rozwiązań i wskazówek. Jeśli zastosuje się odpowiednią konfigurację, można realnie korzystać ze sztucznej inteligencji w biznesie.

Warto podkreślić, że większość tych rozwiązań jest dziś dostępna w modelu open source, co oznacza szeroki dostęp do wiedzy i możliwość skalowania. W niektórych przypadkach wymagane jest jednak nawiązanie współpracy z Intelem, co wynika z kwestii poufności.

Dlaczego zdecydowaliście się wspierać polskie modele AI? Czym było to podyktowane? 

Bartosz: Kluczowe były tu dwa aspekty. Po pierwsze, bardzo wyraźny sygnał od naszych lokalnych klientów. Wielu z nich wprost mówiło, że rozwiązania chmurowe oparte na modelach LLM działają dobrze w języku angielskim, natomiast przy wykorzystaniu tłumaczeń pojawiają się przekłamania. A w biznesie liczy się precyzja. Bez modelu językowego dopasowanego do lokalnego kontekstu trudno ją osiągnąć, a brak precyzji sprawia, że firmy nie są w stanie dostarczyć swoim klientom w pełni wartościowego produktu. Nikt nie chce pracować na półproduktach.

Drugim elementem jest nasze zaplecze technologiczne i organizacyjne w Polsce. Intel zatrudnia tu ponad dwa tysiące inżynierów i rozwija rozwiązania AI zarówno w obszarze chmurowym, jak i rozwiązań brzegowych (Edge). Tworzone przez nas systemy mają charakter modułowy i bazują na standardowej architekturze kontenerowej, wykorzystującej technologie takie jak Docker czy Kubernetes. W takiej architekturze sam model językowy jest tylko jednym z komponentów i można go stosunkowo łatwo podmienić.

To podejście pozwala nam budować uniwersalne zastosowania, które można dostosować do różnych rynków. Niezależnie od tego, czy mówimy o Polsce, Indiach czy Chinach, wystarczy zmienić model językowy, aby rozwiązanie działało w danym kontekście. Naturalnym krokiem było więc sprawdzenie, jak skomplikowane jest uruchomienie modelu dla języka polskiego. Okazało się, że w wielu przypadkach można to zrobić w ciągu kilku dni.

Dzięki temu mogliśmy wzbogacić nasze rozwiązania o kolejny wymiar. Nie pokazujemy już wyłącznie przykładów opartych na języku angielskim czy chińskim, ale również polskim. Co więcej, wiele z tych rozwiązań udostępniamy w modelu open source, między innymi na naszych repozytoriach na GitHub.

Podsumowując, z jednej strony była to odpowiedź na realne potrzeby rynku, a z drugiej naturalna konsekwencja naszych kompetencji, które pozwalają wdrażać tego typu rozwiązania szybko i efektywnie.

Jak wyglądała strona techniczna integracji Bielika w Intelu? 

Integracja modelu Bielik była relatywnie prosta z kilku powodów. Po pierwsze, bazuje on na standardowej architekturze, opartej na modelach takich jak LLaMA czy Mistral, które są szeroko rozpoznawalne i wspierane przez większość dostępnych frameworków. To pokazuje, jak istotne jest budowanie rozwiązań w oparciu o rynkowe standardy, zamiast tworzenia własnych, niszowych podejść, które wymagają dodatkowej adaptacji i utrudniają skalowanie.

Wspólna architektura znacząco skraca czas wdrożenia i upraszcza integrację. Drugim istotnym elementem była dostępność modelu Bielik w środowisku Hugging Face, gdzie udostępniane są jego otwarte wagi. Dzięki temu możliwa jest elastyczna praca z modelem, w tym jego dostosowanie do konkretnych potrzeb, zarówno poprzez modyfikację parametrów, jak i procesy takie jak kwantyzacja.

Z perspektywy użytkownika końcowego kluczowym wyzwaniem pozostają ograniczenia sprzętowe. Największe modele oferują wysoką jakość, ale jednocześnie wymagają bardzo dużych zasobów obliczeniowych i pamięciowych. Dlatego większość firm poszukuje modeli zoptymalizowanych, które można efektywnie uruchomić na dostępnej infrastrukturze.

W tym kontekście ogromne znaczenie ma możliwość pracy na otwartych wagach oraz stosowanie technik optymalizacyjnych, takich jak kwantyzacja, na przykład w standardach FP8 czy INT4. Pozwalają one znacząco zmniejszyć zapotrzebowanie na zasoby, przy jednoczesnym zachowaniu satysfakcjonującej jakości działania.

To właśnie połączenie standardowej architektury, otwartości modelu i możliwości jego optymalizacji sprawia, że integracja takich rozwiązań jest dziś znacznie prostsza i bardziej dostępna dla szerokiego grona organizacji.

W jakich obszarach klienci najczęściej korzystali z tych rozwiązań AI? 

Bartosz: Intel dostarcza przede wszystkim referencyjną architekturę. Nie jest tak, że klienci wdrażają ją wprost jeden do jednego. Traktują ją raczej jako punkt odniesienia i inspirację, na bazie której budują własne, docelowe rozwiązania, uzupełniając je o elementy dopasowane do swoich potrzeb.

Z naszej perspektywy kluczowe jest pokazanie, że modele językowe mogą być skutecznie wykorzystywane także w środowisku rozwiązań brzegowych (Edge). Jednocześnie trzeba pamiętać, że mówimy o rozwiązaniach open source, więc nie mamy pełnej widoczności tego, w jaki sposób są one dalej rozwijane przez klientów. Widzimy jednak duże zainteresowanie, między innymi poprzez aktywność na repozytoriach na GitHub oraz liczne pytania pojawiające się podczas spotkań. Coraz częściej dotyczą one także lokalnych wdrożeń, w tym wykorzystania języka polskiego.

Jeżeli chodzi o rozwiązania chmurowe, koncentrujemy się głównie na integracji z naszymi akceleratorami AI, takimi jak Habana Gaudi. W tym kontekście dostarczamy między innymi referencyjne aplikacje typu RAG, które mogą być wykorzystywane przez klientów jako baza do budowy własnych systemów. Wiemy, że z takich rozwiązań korzystają już niektórzy integratorzy w Polsce, co pokazuje, że ta wartość jest realnie wykorzystywana w praktyce.

Podsumowując, dostarczamy narzędzia, architekturę i gotowe wzorce, które klienci mogą adaptować do swoich potrzeb, zarówno w środowiskach rozwiązań brzegowych (Edge), jak i chmurowych, budując na ich bazie własne, dopasowane rozwiązania AI.

Alicja: Warto dodać, że nasze zespoły nieustannie rozwijają te rozwiązania. Z jednej strony na bieżąco śledzimy trendy, a z drugiej aktywnie optymalizujemy nasze podejścia, szczególnie w obszarze rozwiązań typu RAG. Naszym celem jest to, aby mogły one działać nawet na relatywnie niewielkiej infrastrukturze. W praktyce oznacza to, że już serwer o parametrach rzędu 32 rdzeni jest w stanie obsłużyć takie rozwiązania, co znacząco obniża próg wejścia dla mniejszych firm.

Oczywiście w przypadku dużych wdrożeń, obsługujących skalę krajową czy globalną, potrzebna jest znacznie bardziej zaawansowana infrastruktura. Natomiast na etapie wejścia w AI kluczowe jest, aby start był możliwie prosty i dostępny. Dlatego koncentrujemy się nie tylko na samym uruchomieniu rozwiązań, ale również na ich ciągłej optymalizacji, tak aby były jak najbardziej efektywne i przystępne.

Równolegle obserwujemy wyraźne zmiany w podejściu do budowy systemów AI. Coraz częściej wykorzystywane są architektury oparte na współpracy wielu modeli, zamiast jednego dużego. Widzimy też trend przechodzenia od dużych modeli językowych do mniejszych, bardziej wyspecjalizowanych modeli, które można łatwiej wdrażać i utrzymywać.

Sztuczna inteligencja to dynamicznie rozwijający się obszar, który dla wielu organizacji zaczął się wraz z popularyzacją ChatGPT, ale dziś jest już znacznie bardziej złożonym ekosystemem. My nie tylko podążamy za tymi zmianami, ale staramy się je współtworzyć, dostarczając rozwiązania, które są coraz bardziej dostępne, efektywne i dopasowane do realnych potrzeb biznesu.

Co najbardziej by przyspieszyło adopcję polskich modeli językowych w biznesie? Czy to w Waszej opinii jest kwestia edukacji, dostępności tych rozwiązań, czy być może też regulacji?

Bartosz: Powiedziałbym, że kluczową barierą nie są dziś same technologie, tylko raczej gotowość do ich wykorzystania i przełamanie pewnych nawyków. Dobrym przykładem z życia codziennego jest Żabka. W wielu sklepach mamy zarówno tradycyjne kasy, jak i kasy samoobsługowe. Często jednak widać kolejki do tych pierwszych, podczas gdy stanowiska samoobsługowe pozostają puste. To pokazuje, że wyzwaniem jest przede wszystkim edukacja i budowanie przekonania, że nowe rozwiązania realnie usprawniają procesy. Jeśli użytkownicy zobaczą korzyści, naturalnie pójdzie za tym większe zainteresowanie ze strony firm, które będą chciały wdrażać takie technologie.

Dziś z rozwiązań opartych na modelach językowych korzystają głównie organizacje, które są po prostu ciekawe nowych technologii. W szerszym ujęciu nadal widoczny jest pewien sceptycyzm. Firmy zastanawiają się, jak te modele działają, jaka jest ich jakość i na ile można im zaufać w praktyce. Dlatego nie postrzegam obecnie głównych barier jako technologicznych, szczególnie w kontekście polskich modeli językowych. Kluczowe jest raczej ich upowszechnienie, pokazanie konkretnych zastosowań i przekonanie przedsiębiorstw, że są to rozwiązania dojrzałe i gotowe do wykorzystania w biznesie.

Alicja: Warto zostawić tu pewną otwartą perspektywę, bo sztuczna inteligencja to nie tylko duże centra danych czy rozwiązania brzegowe (Edge). To znacznie szerszy ekosystem. Przykładem mogą być sieci telekomunikacyjne, w których AI odpowiada za wykrywanie anomalii czy zagrożeń. W kontekście tego, że mówimy o infrastrukturze krytycznej, ma to ogromne znaczenie dla bezpieczeństwa i stabilności działania całych systemów.

Równolegle widzimy bardzo dynamiczny rozwój na poziomie urządzeń końcowych, takich jak laptopy czy stacje robocze. Współczesna architektura sprzętowa, i nie dotyczy to tylko jednego dostawcy, ewoluuje w kierunku integracji CPU, GPU i NPU w ramach jednego procesora. Szczególnie Neural Processing Unit odgrywa tu coraz większą rolę, umożliwiając realizację wielu zastosowań AI przy niskim zużyciu energii.

Obserwujemy też wyraźną ewolucję zastosowań na urządzeniach użytkownika końcowego. Na początku były to pojedyncze funkcje, takie jak rozmywanie tła czy redukcja szumów w trakcie rozmów. Dziś mówimy już o dziesiątkach konkretnych zastosowań, które wykorzystują AI w codziennej pracy i komunikacji.

Jednocześnie sztuczna inteligencja znajduje zastosowanie w całym spektrum środowisk, od chmury i dużych centrów danych, przez komputery osobiste, aż po rozwiązania brzegowe (Edge). Tam wspieramy między innymi analizę obrazu z kamer, wykrywanie zagrożeń, takich jak pożar, czy monitorowanie bezpieczeństwa pracy, na przykład identyfikację sytuacji, w których pracownik nie korzysta z wymaganych środków ochrony.

Dlatego dziś kluczowe staje się przejście od samego zainteresowania technologią do jej praktycznego wykorzystania. Realna wartość sztucznej inteligencji pojawia się dopiero wtedy, gdy przekładamy jej możliwości na konkretne, działające zastosowania w rzeczywistym środowisku biznesowym i operacyjnym.

Dziękujemy za rozmowę!

Cykl rozmów „Start z polskim AI – od pomysłu do wdrożenia” jest realizowany w ramach programu Centrum Kompetencji AI.