Start z polskim AI #NASK

Start z polskim AI to cykl rozmów, którego celem jest przedstawienie doświadczeń związanych z polskimi modelami językowymi AI oraz praktykami firm i instytucji we wdrażaniu tych rozwiązań. Zapraszamy do rozmowy z prof. Szymonem Łukasikem, dyrektorem Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK. 

Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji działa w strukturach NASK. Czym dokładnie zajmuje się i jakie są jego najważniejsze obszary działalności?

W NASK, a w szczególności w naszym ośrodku, prowadzimy wiele inicjatyw związanych zarówno z bezpieczeństwem sztucznej inteligencji, jak i wykorzystaniem AI w obszarze cyberbezpieczeństwa. To dwa różne, ale komplementarne zagadnienia.

Nie możemy oczywiście pominąć naszego zaangażowania w rozwój dużego modelu językowego PLLuM. Kwestie bezpieczeństwa są dla nas tutaj bardzo istotne. Chodzi przede wszystkim o to, aby sam model był rozwiązaniem, w którym staramy się minimalizować zagrożenia związane z jego niewłaściwym wykorzystaniem. W ramach tych działań tworzymy również zbiory danych, które pozwalają testować bezpieczeństwo modeli.

W ramach innych działań związanych z tym tematem  stworzyliśmy między innymi zbiór PL Guard, służący do weryfikacji określonych zagrożeń i sprawdzania czy model właściwie reaguje na szkodliwe prompty. Opracowaliśmy także model zabezpieczający Herbert PL Guard, który można połączyć z dowolnym dużym modelem językowym i wykorzystać do filtrowania oraz blokowania niebezpiecznych treści.

Obszar bezpieczeństwa dużych modeli językowych jest dla nas bardzo istotny i będziemy go dalej rozwijać. Pracujemy nad kolejnymi zbiorami danych, ich ewolucją i publikowaniem wyników naszych badań. To wpisuje się w rolę, jaką pełnią w wielu krajach instytuty zajmujące się bezpieczeństwem sztucznej inteligencji, czyli AI Safety Institutes. Chcemy, aby ten obszar był odpowiednio rozwijany również w kontekście języka polskiego, który stanowi pewne wyzwanie i wymaga własnych badań oraz testów.

Mieliśmy okazję pokazać to naszym amerykańskim kolegom podczas wizyty przedstawicieli Departamentu Stanu USA oraz kilku amerykańskich instytutów badawczych. Dobrze znanym zagadnieniem  są próby obchodzenia zabezpieczeń modeli poprzez odpowiednią modyfikację promptu. Sam prompt dotyczący szkodliwej treści może zostać przez model zablokowany. Jeżeli jednak odpowiednio zmodyfikujemy sposób zadania pytania, na przykład dodając do niego fikcyjną historię czy zmieniając jego kontekst, model może zareagować inaczej. Co ciekawe, przetłumaczyliśmy jeden z takich promptów wprost na język polski. Okazało się, że model, który w języku angielskim potrafił rozpoznać zagrożenie i odmówić odpowiedzi, po otrzymaniu analogicznego zapytania w języku polskim wygenerował niebezpieczną treść.

To pokazuje, że zagraniczne modele językowe nie zawsze są wystarczająco dobrze testowane pod kątem bezpieczeństwa w języku polskim. Sam język może więc stać się pewnym wektorem ataku. Musimy mieć tego świadomość, dlatego tworzymy własne zbiory testowe i prowadzimy badania nad bezpieczeństwem modeli również w języku polskim. Jest to istotne nie tylko z perspektywy Polski. Potencjalny atak z wykorzystaniem języka polskiego może bowiem zostać przeprowadzony także z dowolnego miejsca na świecie i przez dowolną osobę czy podmiot. 

Warto również pamiętać, że treści generowane przez modele mogą być niekompletne lub nieprawdziwe. To jednak nie oznacza, że są całkowicie nieszkodliwe. Nawet błędna czy niepełna informacja może mieć negatywne konsekwencje, jeżeli ktoś potraktuje ją jako wiarygodną i spróbuje ją wykorzystać w praktyce. Dlatego bezpieczeństwo modeli językowych jest tak istotnym obszarem badań i jest podejmowane przez całą międzynarodową sieć instytutów zajmujących się bezpieczeństwem sztucznej inteligencji.

Dla nas szczególnie ważnym zagadnieniem, zwłaszcza w kontekście sytuacji za naszą wschodnią granicą, jest również dezinformacja. W tym obszarze szczególnie interesują nas deepfaki. Mamy bardzo sprawnie działający zespół zajmujący się tą tematyką. Kieruje nim  dr Ewelina Bartuzi – Trokielewicz. Zespół przede wszystkim zbiera i analizuje materiały, identyfikuje pojawiające się tendencje oraz opracowuje narzędzia umożliwiające wykrywanie tego rodzaju zagrożeń.

Jaką rolę odgrywa dziś sztuczna inteligencja w wykrywaniu i analizowaniu dezinformacji w tych kanałach? Czy możemy spodziewać się narzędzi, które będą wspierać takie działania na większą skalę?

Skupiamy się tutaj przede wszystkim na bezpieczeństwie platform i sieci społecznościowych. To trudny obszar, ponieważ z jednej strony identyfikujemy coraz większą liczbę materiałów generowanych lub zmanipulowanych z wykorzystaniem sztucznej inteligencji. Mamy zarówno dezinformację o charakterze komercyjnym, na przykład reklamy cudownych preparatów na kolana czy oferty rzekomo wyjątkowych inwestycji, jak i znacznie poważniejsze materiały związane z wojną za naszą wschodnią granicą.

W tym ostatnim przypadku deepfaki mogą służyć między innymi do podsycania nienawiści, rozpowszechniania dezinformacji dotyczącej konfliktów, przedstawiania nieprawdziwych sukcesów czy przypisywania przywódcom słów, których nigdy nie wypowiedzieli. To bardzo różne rodzaje materiałów, ale wszystkie wymagają odpowiedniej analizy.

Skupiamy się przede wszystkim na materiałach wideo i analizujemy je wielowarstwowo, czyli pod kątem obrazu, dźwięku oraz warstwy tekstowej i samego przekazu. Jest to istotne dlatego, że współczesne metody generowania treści są już na tyle zaawansowane, że dostępne na rynku detektory audio/video nie zawsze radzą sobie z ich rozpoznawaniem. Dlatego pracujemy również nad własnymi rozwiązaniami. Analizujemy przy ich użyciu nie tylko sam obraz i dźwięk, ale także warstwę tekstową. Deepfake zawsze ma bowiem jakiś cel, a sposób skonstruowania przekazu może być ważnym elementem identyfikacji manipulacji. I tak na przykład w materiałach o charakterze komercyjnym często pojawia się na przykład presja czasu. Możemy usłyszeć, że trzeba podjąć decyzję natychmiast, ponieważ oferta kończy się za kilka dni. Innym mechanizmem jest odwoływanie się do aspiracji i autorytetu. Pojawia się komunikat, że dany produkt czy inwestycję wybrał już znany piłkarz, tenisistka czy polityk, więc odbiorca również powinien to zrobić. Tego rodzaju elementy identyfikujemy, ponieważ mogą być równie istotne jak sama warstwa audio i wideo.

Drugim ważnym obszarem naszych działań jest cyberbezpieczeństwo i wykorzystanie sztucznej inteligencji jako wsparcia dla usług związanych z obsługą incydentów. Jeżeli otrzymamy podejrzaną wiadomość e-mail albo natrafimy na fałszywą reklamę, możemy zgłosić taki materiał do CERT Polska, jednostki, która również działa w NASK. Liczba tego rodzaju zgłoszeń systematycznie rośnie, co pokazują również raporty roczne CERTu. Pojawia się więc potrzeba, aby w procesie obsługi incydentów sztuczna inteligencja wspierała operatorów analizujących takie materiały. Pracujemy również nad rozwiązaniami w tym obszarze, tak aby AI mogła pomagać w analizie dużej liczby zgłoszeń i identyfikowaniu potencjalnych zagrożeń.

I wreszcie, bardzo zależy nam także na współpracy międzynarodowej. Bezpieczeństwo sztucznej inteligencji jest obszarem bardzo uniwersalnym. Kiedy rozmawiamy z przedstawicielami instytucji badawczych z innych krajów, często okazuje się, że mierzymy się z bardzo podobnymi problemami. Wspólnie próbujemy więc tworzyć zbiory danych, wymieniać się informacjami i doświadczeniami. Kontakt z międzynarodowymi organizacjami zajmującymi się bezpieczeństwem AI jest dla nas szczególnie cenny.

Nie możemy jednak również pomijać współpracy z twórcami modeli. Utrzymujemy robocze relacje między innymi z OpenAI i Anthropic. To właśnie te firmy rozwijają najważniejsze modele, dlatego istotne jest, aby pozostawać z nimi w kontakcie, wiedzieć, nad czym pracują, jakie wyzwania identyfikują i w jaki sposób rozwijają mechanizmy bezpieczeństwa.

Twórcy modeli są również żywotnie zainteresowani niezależnymi badaniami i współpracą z siecią instytutów zajmujących się bezpieczeństwem sztucznej inteligencji. Taka współpraca pozwala lepiej rozumieć pojawiające się zagrożenia i wspólnie pracować nad sposobami ich ograniczania.

Bezpieczne korzystanie z AI staje się dziś jednym z najważniejszych wyzwań dla firm i instytucji. Od czego powinny zacząć, zanim zdecydują się modeli AI? (tutaj mówimy o tych polskich/autorskich)

Wydaje się, że najważniejszy element tego procesu to dobrze zdefiniowanie potrzeby. Niestety bardzo często zdarza się, że ktoś przychodzi do nas, czyli do osób rozwijających takie modele, i mówi: „Chcę mieć AI” albo „Chcę mieć duży model językowy”, ale nie wiąże tego z konkretnie zdefiniowanym procesem, zadaniem czy problemem, który chce za pomocą tego narzędzia rozwiązać.

Tymczasem kluczowe jest przede wszystkim określenie, jaki problem chcemy rozwiązać i w jaki sposób będziemy oceniać jakość uzyskiwanych rezultatów. Jeżeli na przykład naszym celem jest przyspieszenie obsługi klienta, powinniśmy mieć konkretne, przykładowe zadania, na podstawie których będziemy mogli sprawdzić, czy system wykorzystujący sztuczną inteligencję rzeczywiście spełnia swoje zadanie.

Po drugie, powinniśmy określić, jakie realne korzyści chcemy dzięki temu osiągnąć, czy będzie to przyspieszenie pracy, poprawa jakości odpowiedzi, czy jeszcze inne efekty.

W praktyce najważniejsze są więc trzy kwestie: określenie celu, ustalenie, w jaki sposób będziemy mierzyć jego osiągnięcie oraz wskazanie konkretnych korzyści, jakie ma przynieść wykorzystanie sztucznej inteligencji. Cała reszta jest wtórna – wybór konkretnego modelu czy infrastruktury, na której będzie on działał, to już kwestie drugorzędne. Te trzy elementy powinny być punktem wyjścia całego procesu.

Bezpieczeństwo jest jednym z kluczowych tematów przy wdrażaniu AI. Jakie ryzyka powinni brać pod uwagę przedsiębiorcy i instytucje, które zaczynają korzystać z polskich modeli językowych?  

Można sądzić, że podstawowym zagrożeniem, bardzo oczywistym, ale wartym podkreślenia, jest to, że technologia, z której korzystamy, ma pewne cechy, od których nie jesteśmy w stanie uciec. Duże modele językowe działają na podstawie ogromnych zbiorów tekstów oraz dostarczonych im instrukcji i generują kolejne treści w oparciu o prawdopodobieństwo. Oznacza to, że przewidują, jakie słowo czy fragment powinien pojawić się jako następny. Zawsze wiąże się to jednak z ryzykiem tzw. halucynacji, czyli wygenerowania informacji, która jest nieprawdziwa lub niezgodna z rzeczywistością.

Musimy więc świadomie wkalkulować to ryzyko w sposób, w jaki korzystamy z tych narzędzi. Kluczowe pytanie brzmi: czy w danym zastosowaniu jesteśmy w stanie zaakceptować fakt, że model raz na jakiś czas wygeneruje błędną informację? Skala tego problemu zależy oczywiście od wielu czynników, ale przede wszystkim od zastosowania.

Są sytuacje, w których taka halucynacja może mieć niewielkie konsekwencje. Jeżeli model pomoże nam napisać pismo do urzędu, a w tekście pojawi się zmyślony fragment, możemy go zweryfikować i poprawić. Zupełnie inaczej wygląda to jednak w sytuacji, gdy od poprawności odpowiedzi zależy czyjeś zdrowie lub życie. Jeżeli ktoś, szukając szpitala, otrzyma od modelu nieprawidłowy adres, konsekwencje takiego błędu mogą być bardzo poważne.

To są uwarunkowania, które trzeba uwzględnić przy wyborze narzędzia. Zarówno osoba odpowiedzialna za wdrożenie systemu, jak i jego użytkownicy, na przykład lekarze czy prawnicy, muszą mieć świadomość, że narzędzie może działać bardzo dobrze, ale od czasu do czasu wygeneruje informację niezgodną z naszymi oczekiwaniami. Dlatego niektóre zadania po prostu nie są odpowiednie dla dużych modeli językowych.

Dobrym przykładem jest wyszukiwanie konkretnych informacji, takich jak adresy. Do tego celu mamy inne, bardziej odpowiednie narzędzia, a w wielu przypadkach klasyczna wyszukiwarka będzie wystarczająca. Sam doświadczyłem niedawno sytuacji, która dobrze to ilustruje. Podczas wizyty w Krakowie znajomy z zagranicy poprosił mnie o polecenie miejsca, gdzie mógłby kupić szopkę krakowską. By mu pomóc, skorzystałem z wyszukiwarki, w której odpowiedź generowana przez duży model językowy jest obecnie jedną z domyślnych funkcji. Model z dużą pewnością wskazał mi konkretny sklep, ale kiedy zweryfikowałem jego adres, okazało się, że znajduje się on w Warszawie. To dobry przykład pokazujący, że nie zawsze możemy bezkrytycznie ufać odpowiedziom generowanym przez model.

Ryzyko halucynacji jest więc niezależnym od nas ograniczeniem technologicznym, od którego nie jesteśmy w stanie całkowicie uciec. Musimy natomiast odpowiednio je uwzględnić w naszych planach. Jeżeli mamy do czynienia na przykład z systemem wspomagającym decyzje medyczne, mówimy już o zastosowaniu wysokiego ryzyka. W takim przypadku konieczne jest zaplanowanie odpowiednich mechanizmów weryfikacji. Wymagania wynikające z AI Act nie są więc przypadkowe. Mają między innymi zapewnić odpowiednią kontrolę i ocenę systemów wykorzystywanych w takich obszarach. 

Drugim istotnym obszarem są dane, ich bezpieczeństwo, własność oraz ochrona danych osobowych. Często korzystając z modeli, po prostu wchodzimy do okienka i wklejamy dokument, prosząc o jego analizę. Możemy na przykład wrzucić wyniki badań lekarskich i poprosić model o ich interpretację, nie zastanawiając się nad tym, co dzieje się z przekazanymi przez nas informacjami.

Tymczasem powinniśmy zwracać uwagę na zasady dotyczące wykorzystywania tych danych przez dostawcę modelu, a także na to, gdzie są one przetwarzane i czy opuszczają obszar Polski lub Unii Europejskiej. To kwestie, które przy korzystaniu z takich narzędzi mają duże znaczenie.

Trzeci obszar, szczególnie istotny z perspektywy bezpieczeństwa, dotyczy możliwości niewłaściwego wykorzystania systemu. Musimy zastanowić się, czy nasze rozwiązanie może zostać użyte w sposób, którego nie przewidzieliśmy podczas jego projektowania.

Wyobraźmy sobie na przykład chatbota na stronie firmy, który ma służyć do obsługi klientów. Taki system może zostać wykorzystany do wygenerowania instrukcji przeprowadzenia ataku cybernetycznego albo do udzielania niebezpiecznych porad. Są to realne zagrożenia, które twórcy i wdrażający systemy AI również muszą brać pod uwagę.

Dlatego bezpieczeństwo nie może być dodatkiem do wdrożenia sztucznej inteligencji. Powinno być jednym z jego podstawowych założeń, od momentu zdefiniowania problemu, przez wybór odpowiedniego narzędzia, aż po sposób jego wykorzystania i kontrolowania.

Jak ocenia Pan gotowość polskich firm i instytucji do wdrażania AI? Czy większym wyzwaniem jest dziś dostęp do technologii, czy wiedza o tym, jak bezpiecznie i efektywnie z niej korzystać?  

Entuzjazm jest bardzo duży, szczególnie dlatego, że w dużym stopniu mamy kontakt z administracją publiczną ze względu na nasze miejsce w ekosystemie cyfryzacji Polski. Chęć wdrażania i wykorzystywania sztucznej inteligencji zdecydowanie jest, więc z tym nie ma problemu.

Często pojawiają się natomiast potrzeby, które nie są jeszcze odpowiednio skonkretyzowane. Instytucja wie, że chce wykorzystać sztuczną inteligencję, ale kiedy przechodzimy do konkretów, okazuje się, że potrzeby nie są jasno zdefiniowane. Brakuje również tak zwanej metryki sukcesu, czyli sposobu, który pozwoliłby jednoznacznie ocenić, czy wdrożenie rzeczywiście przyniosło oczekiwany efekt. To jest pierwsza kwestia, czyli odpowiednie przygotowanie organizacji i zrozumienie własnych potrzeb. Jeżeli chcemy usprawniać jakiekolwiek procesy, bardzo ważne jest, aby wcześniej dobrze zidentyfikować problemy i wyzwania, z którymi się mierzymy.

Dostęp do technologii jest dziś stosunkowo łatwy. Mamy już całkiem dobre, mniejsze modele, takie jak PLLuM czy Bielik, a także wiele innych rozwiązań, które można pobrać i uruchomić samodzielnie. Problemem może być natomiast infrastruktura. Organizacje potrzebują odpowiednich kart graficznych i akceleratorów, które pozwalają uruchamiać większe modele. Zapotrzebowanie na tego typu sprzęt rośnie, podobnie jak jego ceny, a dostępność również może stanowić wyzwanie. Alternatywą jest korzystanie z dostawców chmurowych, ale w takim przypadku pojawiają się kolejne kwestie, między innymi związane z eksportem danych, ich własnością, dostępnością usług oraz kosztami. To realne bariery, o których często mówią nam instytucje zainteresowane wdrażaniem AI.

Trzecia kwestia pojawia się wtedy, gdy mamy już zdefiniowane potrzeby i odpowiednią infrastrukturę. Sam model to dopiero początek. Trzeba go jeszcze odpowiednio zasilić danymi. Uruchomienie samego modelu jest dziś stosunkowo proste. Dostępne są również publiczne interfejsy różnych modeli, takich jak PLLuM czy Bielik. Natomiast kluczowe pytanie brzmi: do czego konkretnie model ma służyć organizacji? Jeżeli ma realizować określone zadanie, potrzebujemy odpowiednich danych, które pozwolą mu je wykonać.

Te dane trzeba przygotować, a to często wymaga pracy ludzi, którzy potrafią je uporządkować, oczyścić i odpowiednio opisać. Wiele organizacji nie jest jeszcze na to przygotowanych. Część instytucji nadal funkcjonuje w dużej mierze w oparciu o dokumentację papierową. Cyfryzacja dokumentów jest często tylko częściowa, a dane bywają rozproszone pomiędzy różnymi departamentami, działami czy zespołami. Zanim więc wykorzystamy je w systemie AI, musimy je najpierw zebrać i odpowiednio przygotować.

Trzeba również pamiętać o kwestiach związanych z ochroną danych. Czasami informacja, że konkretną sprawą zajmuje się na przykład pan Nowak z określonego działu, może być potrzebna wewnątrz organizacji. Jeżeli jednak tworzymy zewnętrznego asystenta dla obywatela lub klienta, taka informacja niekoniecznie powinna być dostępna. W takim przypadku dane muszą zostać odpowiednio zanonimizowane.

Zdecydowanie nie powinien tego robić zewnętrzny dostawca, który dostarcza usługę lub model. Mówimy przecież o prywatnych danych organizacji, do których dostawca nie powinien mieć dostępu. Dlatego proces anonimizacji powinien, co do zasady, leżeć po stronie organizacji wdrażającej rozwiązanie.

W praktyce okazuje się więc, że wiele największych wyzwań związanych z wdrażaniem sztucznej inteligencji nie dotyczy bezpośrednio samego modelu. To kwestie związane z przygotowaniem organizacji, danych, infrastruktury, procedur i odpowiedniego środowiska, w którym taki model ma funkcjonować. Z tym musi zmierzyć się każda organizacja, która chce odpowiedzialnie wdrożyć AI.

Czy polskie modele AI mogą stać się elementem budowania naszej niezależności technologicznej? Jeśli tak, jakie warunki musimy spełnić, żeby ten potencjał wykorzystać? 

Zdecydowanie. Jako Polska zaczęliśmy rozwijać własne modele już kilka lat temu, zarówno w ramach zespołu Spichlerza, jak i później w konsorcjum, które tworzyliśmy na potrzeby rozwoju rodziny modeli PLLuM. Można więc powiedzieć, że rozpoczęliśmy ten wysiłek stosunkowo wcześnie i byliśmy pionierami w tym obszarze.

Pamiętam sytuacje, kiedy opowiadaliśmy o tych działaniach za granicą i spotykaliśmy się z dużym zaskoczeniem. Słyszeliśmy: „Świetnie, że to robicie. My jeszcze tego nie mamy i korzystamy z modeli zagranicznych”. Z czasem jednak kolejne państwa zaczęły dostrzegać, że potrzebne są własne modele. Rozmawialiśmy na przykład z przedstawicielami Wielkiej Brytanii, którzy mówili, że również zaczynają pracować nad własnym projektem dużego modelu językowego, ponieważ zorientowali się, że w przypadku rozwiązań zewnętrznych może kiedyś zabraknąć dostępu do technologii.

Tworzenie własnych modeli AI ma więc sens zarówno z punktu widzenia niezależności i suwerenności technologicznej, jak i możliwości dostosowania ich do konkretnych potrzeb. Możemy poświęcić więcej czasu na to, aby modele były lepiej dostosowane do języka polskiego, naszej kultury i specyfiki funkcjonowania polskich instytucji.

Oczywiście, zagraniczne modele również stają się pod tym względem coraz lepsze. Trzeba jednak pamiętać, że często porównujemy ze sobą rozwiązania, które mają zupełnie inne możliwości. Korzystając z zagranicznego modelu, możemy na przykład mieć dostęp do internetu, podczas gdy polski model działa bez takiego dostępu. Trudno więc uznać takie porównanie za w pełni miarodajne.

Istotne jest natomiast to, że staramy się reagować na konkretne potrzeby użytkowników. Jeżeli ktoś mówi nam, że nasze modele w określonych zadaniach działają źle, jesteśmy w stanie się nad tym pochylić i spróbować to poprawić.

Bardzo potrzebujemy więc konstruktywnej informacji zwrotnej. Można powiedzieć, że Polacy mają opinię osób, które lubią narzekać. My się tego narzekania nie boimy. Wręcz przeciwnie, bardzo przydałoby nam się więcej konkretnego, konstruktywnego narzekania. Jeżeli ktoś testował nasze modele i mówi: „Sprawdziłem je w tych konkretnych zadaniach, tutaj, tutaj i tutaj nie zadziałały”, to jest dla nas bardzo cenna informacja. Natomiast samo stwierdzenie, że PLLuM czy Bielik „są beznadziejne”, niczego nam nie daje. Jeżeli chcemy rozwijać te modele, musimy wiedzieć, co dokładnie nie działa i w jakich sytuacjach.

Dzięki takiej informacji zwrotnej możemy lepiej dostosowywać modele do potrzeb i uwarunkowań występujących w Polsce. Są to stosunkowo małe modele, które możemy uruchamiać we własnej infrastrukturze, często nawet na mniej wydajnych kartach graficznych. W wielu praktycznych zastosowaniach ich możliwości są w pełni wystarczające.

Nie będę oczywiście rozmawiał z Bielikiem czy PLLuMem o sensie życia, bo do tego te modele nie służą. Zresztą nawet najbardziej zaawansowane modele nie powinny być traktowane jako narzędzia do rozwiązywania każdego możliwego problemu. Natomiast w pracy z dokumentami, generowaniu czy przetwarzaniu tekstów mogą być bardzo pomocne. Nad tymi zdolnościami intensywnie pracujemy i będziemy rozwijać również te funkcjonalności, w których obecnie nie jesteśmy jeszcze wystarczająco dobrzy.

Jest jeszcze jeden bardzo ważny aspekt tych projektów. Z przyjemnością obserwuję, jak przyczyniły się one do budowy kompetencji i rozwoju grupy ludzi, którzy zaczęli zajmować się tym tematem na poważnie. Otrzymali dostęp do odpowiednich zasobów i mogli zdobywać doświadczenie w pracy nad własnymi modelami.

To jest trochę tak, jak z budowaniem własnego samochodu. Jeżeli chcemy kiedyś zbudować własny pojazd, nie możemy cały czas mówić: „Zaczniemy jutro, a dzisiaj pojedziemy czym innym”. Żeby zdobyć kompetencje, musimy zacząć budować własne rozwiązania już teraz. I to jest, moim zdaniem, ogromna wartość tych projektów.

Wyzwaniem jest natomiast to, żeby modele były rzeczywiście testowane i rozwijane przez użytkowników oraz instytucje. To są projekty otwarte, więc zachęcamy do ich sprawdzania, wykorzystywania, a nawet dalszego rozwijania.

Jeżeli ktoś chce stworzyć rozwiązanie wykorzystujące na przykład PLLuM czy Bielika w rolnictwie albo leśnictwie, może wziąć taki model i dodatkowo go dostosować, na przykład poprzez dotrenowanie go na odpowiednich instrukcjach. Tego rodzaju dostosowanie nie musi być bardzo kosztowne obliczeniowo, a może znacząco zwiększyć użyteczność modelu w konkretnym zastosowaniu.

Zachęcamy więc, żeby nie tylko korzystać z tych modeli, ale również je testować, eksperymentować z nimi i samodzielnie rozwijać ich możliwości. W ten sposób możemy wspólnie budować kompetencje i rozwiązania odpowiadające na konkretne potrzeby w Polsce.

Jaką rolę w rozwoju polskiego AI powinny odgrywać państwo, biznes i nauka? Czy dziś współpraca między tymi środowiskami jest wystarczająca? 

Jestem w tej dobrej sytuacji, że mogę powiedzieć, iż otrzymaliśmy duże wsparcie. Projekt PLLuM został uruchomiony jeszcze za poprzednich rządów i był kontynuowany przez kolejne. Można więc powiedzieć, że jest to inicjatywa ponad podziałami. To pokazuje, że potrzeba rozwijania własnych modeli sztucznej inteligencji jest dostrzegana również przez administrację rządową.

Mamy dwa projekty, które podchodzą do tego zagadnienia nieco inaczej. Z jednej strony jest Bielik, rozwijany przez społeczność skupionej wokół Spichlerza. Z drugiej strony jest PLLuM, który od początku powstaje w ramach konsorcjum instytucji naukowych. Takie różne podejścia mają swoje zalety, ponieważ pozwalają spojrzeć na rozwój modeli z różnych perspektyw.

W przypadku PLLuM na początku bardzo mocno opieraliśmy się na tworzeniu instrukcji przez ludzi. Zatrudnialiśmy anotatorów, którzy przygotowywali i oceniali dane oraz instrukcje dla modelu. W przypadku Bielika w dużym stopniu wykorzystywano natomiast generowanie instrukcji syntetycznych. Są to więc dwa różne podejścia do podobnego problemu.

W efekcie w niektórych obszarach jeden model może być lepszy, a w innych drugi. Podobnie wygląda kwestia pozyskiwania i przygotowywania danych. Oba projekty rozwijały się w nieco innych kierunkach i zbudowały inne kompetencje. Moim zdaniem dobrze, że mamy dwa różne modele i dwa różne ekosystemy, które mogą się wzajemnie uzupełniać.

Co ważne, pozostajemy w bardzo dobrym kontakcie i wymieniamy się informacjami oraz doświadczeniami. Współpracujemy również z Narodowym Archiwum Cyfrowym, które wspiera nas między innymi w obszarze danych. Taka współpraca zdecydowanie wzbogaca oba projekty.

Trzeba też wspomnieć o elemencie, którego ani my, ani społeczność rozwijająca Bielika początkowo nie mieliśmy, czyli o odpowiednich zasobach obliczeniowych. Potrzebowaliśmy infrastruktury, na której można trenować tak duże modele.

Tutaj bardzo ważną rolę odegrało państwo i dostępna w Polsce infrastruktura HPC, czyli wysokowydajne centra obliczeniowe. Modele PLLuM i Bielik od początku są trenowane w polskich centrach obliczeniowych. To również ma znaczenie z punktu widzenia suwerenności technologicznej, ponieważ cały proces, od rozwoju modelu po jego trenowanie, możemy realizować w Polsce.

Myślę, że przestrzeń do dalszego rozwoju jest bardzo duża. Cały czas pozostajemy w kontakcie, staramy się zacieśniać współpracę i dzielić się doświadczeniami. Nie wykluczam, że w najbliższym czasie pojawią się kolejne inicjatywy, które jeszcze bardziej połączą nasze ekosystemy.

Bardzo się cieszę, że obie te inicjatywy spotykają się z pozytywnym odzewem zarówno ze strony decydentów i polskiego rządu, jak i różnych instytucji, które chcą te modele testować i wykorzystywać. Coraz częściej zgłaszają się do nas również organizacje, które mają konkretne potrzeby i chcą sprawdzić, w jaki sposób można wykorzystać te modele w praktyce.

Co, Pana zdaniem, mogłoby najbardziej przyspieszyć wdrażanie polskich modeli językowych w biznesie?

Trudno mi jednoznacznie odpowiedzieć, czy istnieje jedna konkretna rzecz, która mogłaby znacząco poprawić sytuację. Gdyby pytanie dotyczyło samego rozwoju modeli, wskazałbym przede wszystkim na dostęp do danych, a właściwie na łatwiejsze możliwości ich pozyskiwania. To jest jeden z czynników, który mocno nas ograniczają. Nie jesteśmy w stanie pozyskać danych w języku polskim w takim wolumenie, który pozwoliłby nam znacznie intensywniej rozwijać modele.

Dotyczy to obu inicjatyw. Oba projekty mierzą się z tym problemem, między innymi ze względu na kwestie prawne i wynikające z nich ograniczenia. Jeżeli chcemy rozwijać modele w sposób zgodny z prawem, musimy uwzględniać te ograniczenia.

Jeżeli natomiast pytanie dotyczy samych wdrożeń, powiedziałbym przede wszystkim, żeby nie rezygnować z prób i nie sięgać automatycznie po modele zagraniczne dostępne przez API. Oczywiście takie rozwiązania często oferują bardzo wysoką jakość, ale wiążą się również z zależnością od zewnętrznego dostawcy.

Można to porównać do samochodu. Jeżeli ktoś wypożyczy samochód z najwyższej półki, prawdopodobnie będzie on lepszy od tańszego samochodu, który może kupić na własność. Tyle że wypożyczony samochód może nagle podrożeć, a właściciel może w pewnym momencie poprosić o jego zwrot.

Dlatego warto mieć również własne rozwiązania. Tym bardziej, że rozwój polskich modeli nie kończy się na ich obecnych wersjach. Zarówno PLLuM, jak i Bielik mają plany kolejnych edycji, więc możemy spodziewać się dalszego rozwoju ich możliwości i kompetencji.

Bardzo zachęcamy więc do testowania tych modeli i eksperymentowania z nimi. Jeżeli nie będziemy próbować ich wdrażać, nie zdobędziemy doświadczenia i nie będziemy wiedzieć, gdzie rzeczywiście mogą się okazać przydatne. W efekcie wszyscy pozostaniemy przy gotowych rozwiązaniach zagranicznych albo w ogóle zrezygnujemy z wdrażania AI.

Potrzebna jest więc pewna żyłka eksperymentatorska, ale także odwaga. Oczywiście, przydałaby się również większa dostępność zasobów obliczeniowych, ale tutaj istnieją już programy i inicjatywy, które oferują wsparcie. Warto szukać takich możliwości, zgłaszać się do podmiotów, które mogą pomóc w realizacji projektów AI, czy korzystać z programów wspierających innowacje i przeznaczać na ten cel dostępne środki.

Dlatego powiedziałbym, że poza zasobami i infrastrukturą potrzebujemy przede wszystkim odwagi do eksperymentowania i podejmowania prób. Bez tego trudno będzie zbudować własne kompetencje i rzeczywiście wykorzystać potencjał polskich modeli.

Dziękujemy za rozmowę!

Cykl rozmów „Start z polskim AI - od pomysłu do wdrożenia” jest realizowany w ramach programu Centrum Kompetencji AI.