Start z polskim AI. Od pomysłu do wdrożenia #ACK Cyfronet AGH

Start z polskim AI to cykl rozmów, którego celem jest przedstawienie doświadczeń związanych z polskimi modelami językowymi AI oraz praktykami firm i instytucji we wdrażaniu tych rozwiązań. Zapraszamy do rozmowy z Patrycją Dąbrowską-Wierzbicką z Akademickiego Centrum Komputerowego CYFRONET AGH. 

ACK Cyfronet AGH wielu osobom kojarzy się przede wszystkim z nauką i superkomputerami. Jak dziś wygląda Wasza współpraca z przedsiębiorstwami? 

Cyfronet działa już ponad 50 lat i rzeczywiście zaczęliśmy od nauki oraz superkomputerów wykorzystywanych właśnie do celów naukowych na zaawansowanym poziomie technologicznym, w tym symulacje, modelowanie, przetwarzanie ogromnej liczby danych. Sztuczna inteligencja pojawiła się dopiero w ostatnich latach. Jednocześnie była to nauka, która rozwiązywała problemy mające dziś bardzo konkretne zastosowania gospodarcze. Dotyczyło to między innymi branży motoryzacyjnej, lotniczej, obszaru zmian klimatu, analizy danych satelitarnych i wszędzie tam, gdzie istotne są przepływy, symulacje konstrukcyjne czy poszukiwanie nowych materiałów i leków. To wszystko mogło i nadal może być opracowywane z wykorzystaniem superkomputerów.

Jeśli chodzi o współpracę z firmami, to rzeczywiście coraz bardziej otwieramy się na tego rodzaju współpracę, cały czas budując nasze doświadczenie. Realizujemy ją na kilka sposobów.

Pierwszym z nich jest współpraca komercyjna. Firma może po prostu przyjść do nas i zakupić usługi, przede wszystkim dostęp do naszych zasobów HPC, zarówno CPU, jak i GPU. Wspieramy również klientów od strony konsultacyjnej. Systemy HPC, mimo że funkcjonują w wielu europejskich centrach, różnią się między sobą, zarówno pod względem infrastruktury, jak i środowiska pracy. Dlatego często potrzebne jest odpowiednie wdrożenie klienta i pomoc w rozpoczęciu pracy.

Drugim ważnym elementem są projekty finansowane ze środków zewnętrznych. Dzięki nim możemy wspierać przedsiębiorców w znacznie bardziej atrakcyjny sposób, szczególnie małe i średnie firmy oraz startupy. W praktyce oznacza to możliwość korzystania z infrastruktury bez konieczności ponoszenia pełnych kosztów na początku. Oczywiście, wsparcie biznesu  nie może odbywać się całkowicie bezkosztowo, ponieważ wiąże się z pomocą publiczną, ale dla startupów jest to ogromne wsparcie.

Z naszego doświadczenia wynika, że już samo testowanie rozwiązań AI może generować koszty rzędu kilkunastu czy kilkudziesięciu tysięcy złotych, a dla wielu początkujących przedsiębiorców jest to bariera nie do przejścia.

Obecnie realizujemy również dwa projekty związane z fabrykami sztucznej inteligencji. Jednym z nich jest projekt krajowy – Gaia AI Factory, a drugim uczestnictwo w paneuropejskiej inicjatywie Lumi AI Factory, której jesteśmy partnerem. To będzie dla nas bardzo ważne doświadczenie, ponieważ pozwoli jeszcze lepiej poznać potrzeby startupów, małych i średnich przedsiębiorstw, ale również administracji publicznej, w zakresie efektywnego wykorzystania mocy superkomputerów w budowie produktów i usług opartych i AI.

Jeśli chodzi o współpracę z nauką, mamy w tym obszarze ogromne doświadczenie. W przypadku biznesu, technicznie jesteśmy w stanie dostarczać rozwiązania i wspierać firmy na wielu poziomach. Pomagamy między innymi w trenowaniu modeli AI, przygotowywaniu danych czy optymalizacji procesów obliczeniowych. Możemy świadczyć również usługi konsultingowe, czy dedykowane szkolenia. Jednocześnie jesteśmy na etapie intensywnego rozwoju kompetencji wspierania przedsiębiorców i rozumienia trudności, z którymi się mierzą.

Współpraca z biznesem różni się od współpracy z nauką, od języka komunikacji po sam sposób prowadzenia relacji. Dlatego aktywnie poszukujemy odbiorców zarówno naszych usług projektowych, jak i komercyjnych, tak aby wspierać jak największą liczbę przedsiębiorców.

Jak zmieniło się zainteresowanie biznesu usługami Cyfronetu AGH w ostatnich 2–3 latach w ostatniej fali rozwoju AI?

Z klientami stricte komercyjnymi, którzy wykorzystują naszą moc obliczeniową, współpracujemy od początku 2018 roku. Obecnie jest to kilkanaście podmiotów - od dużych korporacji po startupy. Wzrost liczby klientów jest jednak stopniowy i wynika nie tylko z kwestii finansowych czy gotowości firm do inwestowania, ale przede wszystkim z dostępności zasobów infrastrukturalnych. W przypadku infrastruktury superkomputerowej funkcjonuje system kolejkowy. Nasze systemy są obecnie bardzo mocno obciążone, dlatego użytkownicy często muszą czekać nawet kilka dni na realizację swoich zadań. Nie jest to natomiast specyfika Cyfronetu, tak dzieje się również w innych europejskich centrach obliczeniowych. Po prostu liczba odbiorców jest bezpośrednio powiązana z dostępnymi mocami obliczeniowymi. To właśnie dlatego skala naszych usług nie może rosnąć w nieskończoność. Stąd też rozwijamy działalność w kierunku infrastruktury dedykowanej sztucznej inteligencji.  Fabryki AI, zarówno nasza, jak i pozostałe europejskie inicjatywy będą budować nowe środowiska obliczeniowe projektowane typowo pod AI, przede wszystkim w oparciu o karty GPU, a w mniejszym stopniu o tradycyjne zasoby CPU. 

Dodatkowo uczestniczymy w inicjatywach związanych z rozwojem polskich modeli językowych, takich jak Bielik czy PLLuM. Modele te są trenowane między innymi na zasobach Cyfronetu, co również wpływa na obciążenie naszej infrastruktury. Jednocześnie uważamy, że udział w tworzeniu tego typu rozwiązań jest niezwykle istotny, ponieważ już teraz mogą z nich korzystać przedsiębiorcy i instytucje publiczne. Zresztą sami Państwo w PFR realizują programy związane z Bielikiem, więc doskonale widać, jak duże jest dziś zainteresowanie rozwojem polskich modeli AI.

Kiedy firma zgłasza się do Cyfronetu AGH po raz pierwszy, z jakimi wyzwaniami najczęściej przychodzi?

To wygląda bardzo różnie. Trafiają do nas zarówno osoby i firmy będące dopiero na etapie pomysłu, na przykład chcące wykorzystać AI do obsługi klienta czy automatyzacji procesów, jak i podmioty, które mają już bardzo konkretne potrzeby i doświadczenie technologiczne. W przypadku tych pierwszych staramy się przede wszystkim uporządkować podstawowe kwestie i zadać kilka kluczowych pytań. Najważniejsze dotyczą danych, ponieważ to właśnie dane są fundamentem każdego rozwiązania opartego na AI. Tutaj pojawia się duże wyzwanie. Szczególnie wymagające są dane wrażliwe, na przykład medyczne, ponieważ przed wykorzystaniem muszą zostać zanonimizowane. Kiedy firma ma już sprecyzowany pomysł i dysponuje odpowiednimi danymi, pojawiają się kolejne pytania, między innymi dotyczące wyboru odpowiedniego modelu językowego lub szerzej: modelu AI. Wspieramy również przedsiębiorców od strony technicznej. Doradzamy firmom, jak przygotować i zoptymalizować obliczenia, aby działały możliwie najbardziej efektywnie. To korzystne dla obu stron. Im lepiej przygotowane zadanie, tym szybciej firma otrzymuje wyniki, a jednocześnie bardziej efektywnie wykorzystywana jest infrastruktura, która wymaga dużych zasobów energetycznych. 

Mamy również klientów, często startupy lub firmy technologiczne, którzy dokładnie wiedzą, czego potrzebują. Przychodzą z konkretnym zapotrzebowaniem na zasoby i potrafią samodzielnie realizować projekty na naszej infrastrukturze. Wciąż jednak uczymy się rynku i poszukujemy grup odbiorców, w których możemy się najmocniej specjalizować. Naturalnym kierunkiem są dla nas przedsiębiorcy posiadający już pewne doświadczenie w obszarze AI, między innymi dlatego, że rozwijamy fabryki AI dedykowane właśnie biznesowi. Jednocześnie nie chcemy zostawiać bez wsparcia osób będących dopiero na etapie pomysłu. Nawet jeśli dana firma nie jest jeszcze gotowa do współpracy z nami, staramy się wskazywać możliwe ścieżki rozwoju oraz miejsca, w których może zdobyć potrzebne kompetencje i wsparcie.

Czy polskie firmy częściej szukają dziś dostępu do mocy obliczeniowej, wsparcia we wdrożeniu AI, czy może kompetencji i doradztwa technologicznego?  Jakie są to projekty i wyzwania biznesowe? 

Podsumowując to, o czym rozmawiałyśmy, firmy przychodzą do nas przede wszystkim po moc obliczeniową, wsparcie w pracy z danymi, a czasem wręcz po wspólne poszukiwanie najlepszych rozwiązań. Coraz większe znaczenie mają także kwestie suwerenności, bezpieczeństwa i zaufania. Jesteśmy instytucją publiczną działającą w ramach uczelni i to jest jedna z naszych przewag konkurencyjnych. Oczywiście działalność w sektorze publicznym wiąże się czasami z pewnymi ograniczeniami organizacyjnymi, ale jednocześnie daje coś bardzo istotnego, takiego jak zaufanie, szczególnie ważne w kontekście danych i bezpieczeństwa infrastruktury. Dane przechowywane w Cyfronecie nie są przesyłane na żadne zewnętrzne serwery poza naszą infrastrukturą. Obecnie posiadamy dwie lokalizacje, w których znajdują się klastry komputerowe, ale całość pozostaje pod naszą pełną kontrolą. Dla coraz większej liczby firm jest to bardzo ważny argument. Coraz częściej spotykamy się również z reakcją przedsiębiorców, którzy mówią: „Nie wiedzieliśmy, że takie możliwości są dostępne w Polsce” albo „Nie wiedzieliśmy, że współpracujecie także z biznesem”. To pokazuje, że wciąż mamy jeszcze dużo pracy do wykonania w obszarze komunikacji i budowania świadomości rynku. Jednocześnie bardzo cieszy nas to, że firmy coraz częściej dostrzegają wartość współpracy z polską instytucją. Pojawia się wręcz pewien element technologicznego patriotyzmu — przedsiębiorcy zaczynają zadawać sobie pytanie, po co korzystać wyłącznie z zagranicznych dostawców, skoro podobne kompetencje i infrastruktura są dostępne w Polsce. 

Jeśli chodzi o branże, współpracujemy z bardzo różnorodnymi podmiotami. Są to firmy z sektora automotive, legaltech, energetyki, a także przedsiębiorstwa działające w obszarze zdrowia i bioinformatyki. Coraz częściej zgłaszają się również firmy zajmujące się multimodalnością, czyli przetwarzaniem różnych typów danych, na przykład obrazu, tekstu czy dźwięku. 

W najbliższych latach szczególnie mocno będziemy koncentrować się na obszarach związanych z działalnością fabryki AI. Priorytetowe będą dla nas trzy kierunki. Pierwszy to medycyna oraz szeroko rozumiane zdrowie, bioinformatyka i nauki biologiczne. Drugi to technologie kosmiczne. Trzeci obszar obejmuje rozwój dużych modeli językowych. Pozostajemy otwarci na współpracę z firmami z różnych sektorów, jednak właśnie na tych trzech dziedzinach będziemy skupiać szczególną uwagę.

Jak pomagacie firmom przejść od pilotażu AI do realnego wdrożenia i skalowania projektu? 

To jest właśnie jeden z obszarów, który będziemy rozwijać w ramach realizacji projektów związanych z fabrykami AI. Do tej pory jako Cyfronet koncentrowaliśmy się przede wszystkim na dostarczaniu technologii i infrastruktury. Naturalnie najłatwiej współpracuje się z firmami, które mają już kompetencje technologiczne i dokładnie wiedzą, czego potrzebują. Wraz z rozwojem projektów związanych z AI chcemy jednak rozszerzać nasze wsparcie także o aspekty biznesowe. Nie będzie to oczywiście nasza bezpośrednia specjalizacja, dlatego w tym obszarze współpracujemy z partnerami posiadającymi odpowiednie doświadczenie. Ważną rolę będzie odgrywać między innymi Krakowski Park Technologiczny oraz inni partnerzy działający w ekosystemie innowacji i przedsiębiorczości. To właśnie oni będą wspierać firmy w takich obszarach jak wejście na nowe rynki, ekspansja zagraniczna, pozyskiwanie finansowania czy przygotowanie do rozmów z funduszami venture capital i aniołami biznesu. Dla nas jest to nowy etap rozwoju. Równocześnie sami również uczymy się, w jaki sposób najlepiej pomagać przedsiębiorcom w skalowaniu biznesu i kierowaniu ich na odpowiednie ścieżki rozwoju.

Jaką przewagą dla biznesu jest dostęp do infrastruktury rozwijanej w Polsce, szczególnie w kontekście danych, bezpieczeństwa i zgodności regulacyjnej? 

Absolutnie kluczowe są dla nas kwestie suwerenności i bezpieczeństwa danych. To, że działamy w ramach regulacji unijnych, zobowiązuje nas do tworzenia rozwiązań spełniających bardzo wysokie standardy bezpieczeństwa. Regularnie przechodzimy również procesy certyfikacyjne. Posiadamy certyfikaty ISO, a także certyfikacje wymagane przez branżę automotive. Niedawno zakończyliśmy również proces certyfikacji TISAX, związanej z bezpieczeństwem informacji w sektorze motoryzacyjnym. Co ważne, nawet jeśli certyfikacja dotyczy konkretnej branży, w praktyce obejmuje całą organizację - od bezpieczeństwa fizycznego infrastruktury po bezpieczeństwo danych i systemów cyfrowych. To jeden z naszych istotnych wyróżników. Drugim bardzo ważnym elementem jest wsparcie merytoryczne i technologiczne. Po naszej stronie zawsze jest człowiek. Kiedy klient kontaktuje się z nami, otrzymuje realne wsparcie ekspertów. Można powiedzieć, że to przecież tak, jak w przypadku usług dostarczanych przez międzynarodowe firmy technologiczne, które często oferują darmowe kredyty na korzystanie z infrastruktury. Problem pojawia się jednak wtedy, gdy użytkownik napotyka trudności lub potrzebuje bardziej specjalistycznego wsparcia. Z rozmów z przedsiębiorcami wiemy, że uzyskanie pomocy technicznej czy merytorycznego feedbacku bywa w takich przypadkach bardzo trudne. U nas wsparcie technologiczne dostępne jest praktycznie przez całą dobę. Co jednak najważniejsze, pomagamy klientom nie tylko w kwestiach technicznych, ale również w podejmowaniu decyzji dotyczących rozwoju projektów AI. Doradzamy między innymi, jaki model wybrać czy warto inwestować w bardzo zaawansowane trenowanie modelu, czy może w danym przypadku wystarczy rozwiązanie prostsze i bardziej efektywne kosztowo, jak na przykład stworzenie bazy RAG. Nie każda firma potrzebuje najbardziej złożonego modelu AI - czasem lepszym rozwiązaniem jest model lżejszy, szybszy i dopasowany do konkretnego zastosowania. 

Warto też spojrzeć szerzej na kwestie regulacji europejskich, w których funkcjonujemy jako instytucja, ale również jako część ekosystemu. Często słyszymy, że Unia Europejska tworzy zbyt wiele przepisów i ograniczeń, jednak coraz częściej okazuje się, że podobnym kierunkiem podążają także inne kraje. Niedawno rozmawialiśmy z przedstawicielami Wietnamu, którzy również pracują nad własnymi regulacjami dotyczącymi AI. Korea Południowa posiada już podobne rozwiązania prawne. To, że Stany Zjednoczone nie mają obecnie równie rozbudowanych regulacji, nie oznacza automatycznie, że jest to najlepszy model. Pamiętam przykład jednej z amerykańskich firm współpracujących z miastem w Stanach Zjednoczonych przy projekcie wymagającym szczególnego poziomu bezpieczeństwa i transparentności danych. Aby zwiększyć zaufanie partnera publicznego, firma zdecydowała się oprzeć projekt właśnie na europejskich standardach prawnych i regulacyjnych. Dopiero wtedy miasto zgodziło się na dalszą współpracę. To pokazuje, że europejskie regulacje, choć często postrzegane jako wymagające, mogą jednocześnie stanowić realną przewagę i zapewniać większe bezpieczeństwo użytkownikom oraz organizacjom.

Czy polskie firmy zaczynają postrzegać własną infrastrukturę AI jako element przewagi konkurencyjnej? 

Wiele organizacji ma dziś poczucie, że „powinno” wdrażać sztuczną inteligencję, nawet jeśli jeszcze nie do końca wie, gdzie rzeczywiście przyniesie ona realną wartość biznesową. Często pojawia się obawa, że „ten pociąg odjedzie” i firma zostanie w tyle, jeśli nie zacznie inwestować w AI. Tymczasem nie każde przedsiębiorstwo i nie każdy proces wymagają wdrażania sztucznej inteligencji za wszelką cenę. Są branże i obszary działalności, które mogą pozostać w dużej mierze tradycyjne i nadal bardzo dobrze funkcjonować. Dzisiaj jednak wiele firm czuje pewien dyskomfort, jeśli nie realizuje żadnych projektów związanych z AI, szczególnie gdy widzi, że robi to konkurencja. Na ocenę rzeczywistego wpływu AI na pozycję rynkową przedsiębiorstw jest jeszcze prawdopodobnie za wcześnie, dopiero tworzymy sposoby oceny zwrotu z inwestycji w AI. Potrafimy jednak wymienić już konkretne przykłady takiego wpływu. Analizy prowadzone w ramach współrealizowanego w Cyfronecie  projektu Fortissimo plus pokazują, że niektóre przedsiębiorstwa dzięki wykorzystaniu HPC i AI potrafią kilkukrotnie zwiększać swoje przychody. Jednak równie ważne jak wzrost przychodów jest skrócenie czasu potrzebnego na przejście od pomysłu do gotowego produktu. Dzięki symulacjom, modelowaniu oraz wykorzystaniu AI firmy mogą znacznie szybciej testować rozwiązania i podejmować decyzje, bez konieczności budowania wszystkiego metodą prób i błędów. I tak na przykład jedna z niemieckich firm zajmujących się danymi przestrzennymi wyliczyła, że po realizacji projektu o 95% skróciła czas przygotowania danych i umożliwiła użytkownikom bez wiedzy technicznej przeprowadzenie złożonych analiz geograficznych za pomocą języka naturalnego. Z kolei estoński startup zmniejszył trzykrotnie liczbę fałszywie dodatnich wyników w diagnostyce raka. Właśnie tutaj najlepiej widać realną wartość zarówno sztucznej inteligencji, jak i infrastruktury HPC.

Jak projekt Gaia AI Factory zmieni ofertę Cyfronetu dla przedsiębiorców? 

Przede wszystkim chcemy zwiększać dostępność zasobów dla małych i średnich przedsiębiorstw oraz startupów. Będziemy więc poszukiwać projektów i mechanizmów wsparcia, dzięki którym firmy będą mogły korzystać z naszej infrastruktury w formule bezpłatnej lub częściowo finansowanej. Najważniejsze jest jednak to, że tego typu wsparcie ma służyć przede wszystkim etapowi badawczo-rozwojowemu. Chodzi o testowanie, przygotowanie i rozwój rozwiązań AI. Nie zakładamy sytuacji, w której przedsiębiorca przez kilka lat korzysta z zasobów finansowanych w ramach projektu do bieżącej działalności operacyjnej. Byłoby to niezgodne z założeniami takich programów i mogłoby zaburzać konkurencję rynkową. Naszą rolą jest wspieranie firm na etapie tworzenia i rozwijania produktu. Przykładowo firma może u nas wytrenować model AI, przetestować rozwiązanie i przeprowadzić prace rozwojowe. Natomiast w momencie, gdy produkt trafia już na rynek i zaczyna działać komercyjnie, dalsze operacyjne wykorzystanie infrastruktury powinno odbywać się poza projektem lub na zasadach komercyjnych, również dostępnych w Cyfronecie. 

Bardzo ważnym elementem tych działań jest dla nas również lepsze poznanie rynku i potrzeb przedsiębiorców. Jesteśmy obecni na konferencjach i stale rozmawiamy z firmami, jednak projekty związane z fabrykami AI pozwolą nam znacznie dokładniej zrozumieć, które branże i jakie typy przedsiębiorstw są najbardziej zainteresowane wykorzystaniem AI. Będzie to również okazja do bardziej kompleksowego projektowania naszych usług dla biznesu. Coraz częściej widzimy, że przedsiębiorcy przychodzą do nas z konkretną wizją rozwiązania, ale w praktyce okazuje się, że oczekiwany efekt można osiągnąć zupełnie inną technologią lub innym podejściem niż pierwotnie zakładali. Dlatego bardzo ważne staje się już samo początkowe „mapowanie” potrzeb firmy, ocena jej dojrzałości technologicznej, gotowości do wdrożenia AI oraz realnych możliwości wykorzystania oferowanych przez nas usług. To pozwoli nam nie tylko skuteczniej wspierać przedsiębiorców, ale również lepiej zrozumieć aktualne potrzeby rynku i kierunki jego rozwoju.

Czy dzięki Gaia polskie firmy będą mogły realizować projekty, które dotąd były poza ich zasięgiem finansowym lub technologicznym?

Tak, zdecydowanie tak. Przede wszystkim infrastruktura, którą planujemy stworzyć w ramach fabryki AI, będzie dwukrotnie większa od obecnie największego polskiego superkomputera działającego w Cyfronecie, czyli Heliosa. To oznacza duży wzrost dostępnych zasobów obliczeniowych. Drugim bardzo ważnym aspektem jest obniżenie bariery finansowej dla przedsiębiorców. Już dziś oferujemy firmom prowadzącym prace badawczo-rozwojowe możliwość korzystania z usług testowych, między innymi w formule proof of concept. Po zakończeniu etapu testowego firmy będą mogły korzystać z tej nowej infrastruktury lub już dziś mogą korzystać z bezpłatnej infrastruktury europejskiej w ramach inicjatywy EuroHPC Joint Undertaking. W ramach konkursów organizowanych przez EuroHPC firmy mogą uzyskać dostęp do zasobów obliczeniowych, od mniejszych grantów obejmujących około 5 tysięcy GPU-godzin aż po projekty sięgające kilkuset tysięcy, a nawet miliona GPU-godzin. Wnioski składane są do organizacji europejskiej, natomiast same projekty realizowane są na największych superkomputerach w Europie, takich jak LUMI, MareNostrum czy Leonardo. Podobnie jak w przypadku fabryk AI, infrastruktura ta przeznaczona jest przede wszystkim do działań badawczo-rozwojowych. Warto również zwrócić uwagę, że polscy przedsiębiorcy nadal są stosunkowo słabo reprezentowani w konkursach EuroHPC. To istotne, ponieważ jako kraj współfinansujemy tę infrastrukturę. Korzystanie przez polskie firmy z europejskich zasobów oznacza więc w praktyce odzyskiwanie części środków, które i tak trafiają do wspólnego europejskiego systemu. Dlatego nie postrzegamy europejskich programów jako konkurencji dla naszych działań. Wręcz przeciwnie, traktujemy je jako rozwiązania komplementarne i aktywnie zachęcamy przedsiębiorców do korzystania również z tych możliwości, jak również pomagamy w przygotowaniu wniosku o tego rodzaju zasoby obliczeniowe. Tym bardziej że w wielu przypadkach dostęp do europejskich zasobów można uzyskać już w ciągu kilku czy kilkunastu dni.

Jakie są największe błędy, które firmy popełniają przy pierwszych wdrożeniach AI? 

Myślę, że jednym z największych wyzwań jest dziś kwestia danych. Wiele firm ma poczucie, że stworzenie rozwiązania AI jest stosunkowo proste, wystarczy wziąć istniejący model, dodać trochę własnych danych i model zacznie działać zgodnie z oczekiwaniami. Tymczasem kluczowe znaczenie ma właśnie jakość i ilość danych. Im więcej dobrze przygotowanych danych, tym lepiej możemy dostosować rozwiązanie do konkretnych potrzeb biznesowych. Oczywiście istnieje ryzyko tzw. przetrenowania modelu, jednak w praktyce to właśnie odpowiednio duży i dobrze przygotowany zbiór danych pozwala ograniczać błędy, zwiększać precyzję działania modelu i minimalizować zjawisko halucynacji, czyli generowania nieprawdziwych lub nieprecyzyjnych odpowiedzi. Drugim dużym wyzwaniem jest często niedoszacowanie kosztów związanych z rozwojem AI. Na początku wiele usług wydaje się stosunkowo tanich lub wręcz darmowych, szczególnie gdy międzynarodowe firmy oferują kredyty startowe czy bezpłatne zasoby testowe. Problem polega jednak na tym, że proces trenowania modeli zużywa bardzo duże moce obliczeniowe, a darmowe kredyty potrafią wyczerpać się bardzo szybko. W efekcie firmy wpadają czasami w pewnego rodzaju pułapkę technologicznego uzależnienia od konkretnego środowiska. Gdy kończą się darmowe zasoby, przedsiębiorstwo staje przed wyborem: albo ponosić coraz wyższe koszty, albo przenosić rozwiązanie do nowej infrastruktury, co często oznacza konieczność ponownego dostosowania systemów i procesów.

Jakie macie dalsze plany na rozwój i oferowane wsparcie? 

Tak naprawdę cały czas współpracujemy z przedsiębiorcami w ramach różnych inicjatyw. Część z nich dotyczy tworzenia konkretnych rozwiązań, często dla całych branż czy określonych obszarów zastosowań. Myślimy także o dalszym rozwoju naszej infrastruktury oraz usług chmurowych, które mają ułatwić przedsiębiorcom, czy naukowcom korzystanie z naszych zasobów. Obecnie wejście na infrastrukturę superkomputerową nadal wymaga kompetencji technicznych, między innymi podstaw programowania czy pracy w środowiskach obliczeniowych. To może stanowić barierę dla części firm. Dlatego chcemy stopniowo rozwijać bardziej przyjazne i intuicyjne środowiska pracy. 

Równolegle uczestniczymy w wielu projektach związanych z rozwojem sztucznej inteligencji oraz budową ekosystemów danych. W Europie powstają obecnie tak zwane data spaces i data labs, czyli środowiska umożliwiające łatwiejsze współdzielenie oraz wykorzystanie danych pomiędzy różnymi organizacjami, umożliwiając interoperacyjność między różnymi podmiotami. 

Co Twoim zdaniem najbardziej przyspieszyłoby adopcję polskich modeli językowych w biznesie?

Wydaje mi się, że wciąż bardzo potrzebna jest edukacja i budowanie świadomości rynku. W zeszłym tygodniu byliśmy na konferencji Infoshare w Gdańsku i nawet w środowisku startupowym czy technologicznym widać, że wiedza na temat polskich modeli językowych, takich jak Bielik czy PLLuM, jest coraz większa, ale nadal nie jest powszechna. Wiele osób słyszało nazwę „Bielik”, ale nie do końca wie, czym jest ten model i jak można go wykorzystywać w praktyce biznesowej. A przecież polskie modele językowe można wdrażać nie tylko w najbardziej zaawansowanych technologicznie firmach. Mogą z nich korzystać również organizacje będące na wcześniejszym etapie cyfryzacji, które wcale nie muszą tworzyć własnych produktów AI. Takie modele mogą wspierać codzienną pracę przedsiębiorstw, automatyzację procesów czy obsługę klienta, nawet jeśli firma nie zajmuje się bezpośrednio technologią. Z naszego doświadczenia wynika, że najlepiej działają właśnie use case’y i success stories. Firmy często są zainteresowane AI, ale nie wiedzą, od czego zacząć ani gdzie realnie mogą wykorzystać takie rozwiązania. Dopiero pokazanie konkretnych przykładów dla danej branży pozwala zobaczyć potencjalne korzyści. Ogromnym atutem polskich modeli językowych jest również bardzo dobre rozumienie języka polskiego i lokalnego kontekstu. Język polski jest trudny, bogaty językowo i pełen niuansów. Modele rozwijane lokalnie dużo lepiej radzą sobie z tym kontekstem. 

Warto też wspomnieć że powstają kolejne wersje modeli a twórcy rozszerzają je także o nowe języki, czasem bardzo egzotyczne. To pozwala modelowi lepiej rozumieć świat i budować szerszy kontekst wiedzy, który później przekłada się również na lepsze działanie w języku polskim. Dlatego jestem przekonana, że znaczenie polskich  i specjalistycznych modeli językowych będzie rosło, zarówno ze względu na bezpieczeństwo i suwerenność danych, jak i coraz większą jakość samych rozwiązań.

Dziękujemy za rozmowę!

Cykl rozmów „Start z polskim AI – od pomysłu do wdrożenia” jest realizowany w ramach programu Centrum Kompetencji AI.