Start z polskim AI – od pomysłu do wdrożenia #SentiOne

Start z polskim AI  to cykl rozmów prezentujących doświadczenia związane z polskimi modelami językowymi AI oraz praktyki wdrożeniowe firm i instytucji. 
Tym razem w rozmowie udział bierze udział Michał Brzezicki, CTO i współzałożyciel, SentiOne, firmy tworzącej  narzędzie do monitoringu mediów online, które umożliwia zbieranie, analizowanie i interpretowanie danych z różnych źródeł internetowych.

Dlaczego zdecydowaliście się Państwo rozwijać swój model językowy AI?

Obecnie koncentrujemy się na budowie ekosystemu technologii wokół tego przełomowego rozwiązania. Widzimy ogromny potencjał w automatyzacji opartej na dużych modelach językowych (LLM), które realnie zmieniają sposób pracy z danymi i procesami. Funkcjonujemy w rzeczywistości, w której niemal co miesiąc pojawiają się nowe, przełomowe modele, dlatego naszym celem jest stworzenie rozwiązań umożliwiających korzystanie z możliwie najszerszego spektrum tych technologii. Co istotne, równolegle bardzo dynamicznie rozwija się świat technologii open source, darmowego oprogramowania, co może zaskakiwać w czasie rosnącej komercjalizacji, protekcjonizmu i coraz bardziej widocznej realpolitik w obszarze technologii.

Jakie potrzeby w organizacji dzięki niemu rozwiązujecie?

SentiOne zajmuje się monitorowaniem i analizą treści publikowanych w przestrzeni internetowej oraz tworzeniem chatbotów i voicebotów. W obu tych liniach biznesowych LLM-y mają bezpośrednie zastosowanie i rewolucjonizują obie te branże.

Jak wyglądał proces wyboru dostawcy lub partnera technologicznego?

Od początku założenia firmy staraliśmy się tworzyć technologię sami i skupiliśmy się na R&D. Projektujemy nasze rozwiązania w taki sposób, aby nie być uzależnionymi od jednego dostawcy technologii, co zapewnia nam elastyczność i długoterminową stabilność. Dzięki temu jesteśmy w stanie utrzymywać naszą infrastrukturę przy dość niskich kosztach biorąc pod uwagę skalę przedsięwzięć jakie realizujemy.

Jakie były największe wyzwania podczas wdrożenia?

Immanentnym problemem AI od momentu jej powstania jest jej nieprzewidywalność. Systemy oparte o nią są zawsze obarczone błędem działania, który może się pojawiać podczas korzystania z niej. Chociaż system działa poprawia w 99% przypadków trudno jest oszacować czy błędne działania w 1% nie spowoduje negatywnych skutków biznesowych. Chociaż na pierwszy rzut oka 1% lub nawet promile nie wydają się znaczące, to w praktyce mogą stanowić ogromny problem.

Jakie są przykłady zastosowań rozwiązania w Waszej organizacji?

W SentiOne sztuczną inteligencję wykorzystujemy na wielu płaszczyznach, aby efektywnie przetwarzać i analizować ogromne ilości danych. Każdego dnia w internecie pojawiają się miliony treści, od wpisów w mediach społecznościowych po artykuły i komentarze, a nasze systemy automatycznie je monitorują i analizują, wyciągając kluczowe informacje dla naszych klientów.

Równolegle wprowadziliśmy rozwiązania AI w obsłudze klienta. Nasze voiceboty działają w różnych projektach, obsługując setki tysięcy rozmów miesięcznie. Dzięki temu możemy automatyzować rutynowe procesy, odciążając pracowników i skracając czas reakcji na potrzeby klientów, przy jednoczesnym utrzymaniu wysokiej jakości obsługi.

Takie zastosowania pokazują, jak technologie AI pozwalają SentiOne łączyć skalowalność z efektywnością, a także oferować klientom szybkie i precyzyjne odpowiedzi w dynamicznie zmieniającym się środowisku informacji.

Czy możecie opowiedzieć o ostatnim wdrożeniu – od pomysłu do uruchomienia?

Ostatnie nasze wdrożenia są objęte NDA, natomiast cieszymy się, że mogliśmy stworzyć chatbota na stronę WOŚP. Ilość materiałów na temat fundacji jest bardzo duża, natomiast udało nam się stworzyć takiego bota, który był w stanie odpowiedzieć precyzyjnie na pytania dotyczące finału, a także festiwalu Pol’and’Rock.

Jak mierzycie efektywność wdrożenia?

Dla nas podstawową miarą jest efektywność ekonomiczna wdrożenia AI. Modele AI potrafią być bardzo drogie w utrzymaniu i nie sztuką jest użyć jeden lub kilka z wiodących modeli, aby rozwiązywał skomplikowane zadania. Sztuką jest je wykorzystać w taki sposób, aby mogły szybko i tanio obsłużyć setki tysięcy spraw.

Jakie są plany SentiOne na dalszy rozwój wykorzystania LLM?

Interesują nas modele multimodalne, czyli takie które mogą działać jednocześnie na warstwie tekstowej i głosowej. Ponadto też chcemy mocniej wykorzystywać AI do generowania kodu - to znacząco przyspiesza pracę zespołu programistycznego, co daje nam możliwość realizowania takich inicjatyw, na które wcześniej nie mieliśmy czasu.

Co Twoim zdaniem, najbardziej przyspieszyłoby adopcję polskich modeli językowych w biznesie?

Myślę, że już teraz polskie modele cieszą się dużym powodzeniem. Jeśli teraz ktoś potrzebuje takiego modelu dla przetwarzania danych w języku polskim to modele Bielik czy PLLuM oferują świetne współczynnik jakości do kosztów. Można je uruchomić na infrastrukturze już teraz dostępnej w większości polskich firm.

Niestety te modele językowe jak i technologie z Polski cały czas wymagają rozwoju, który powinien być napędzany realnym zapotrzebowaniem konsumentów. Niestety cały czas kultywuje podejście, że „nasze” jest gorsze i wybierane są rozwiązania spoza Polski, a nawet spoza UE. BigTech dominuje rynek pod kątem ceny i jakości. Pojawia się problem ,,kury i jajka” - rozwiązania technologiczne potrzebują czasu aby osiągnąć dojrzałość, a trudno jest rozwijać , skoro zaczyna brakować klientów. Firmy z Polski mają świetny know-how i doskonale wiedzą, jak rozwijać swoje produkty, natomiast brakuje im środków, aby się wybić i przełamać tę barierę.  W wielu krajach na świecie na poziomie systemowym istnieje wsparcie dla lokalnych dostawców chociażby w publicznych przetargach. W Polsce prawo zamówień publicznych preferuje dostawców spoza Polski, ponieważ w 99% przypadków jedynym kryterium jest cena. Startupy z Polski nie potrzebują więcej grantów i dotacji - one potrzebują klientów.

Dziękujemy za rozmowę!

Cykl rozmów „Start z polskim AI – od pomysłu do wdrożenia” jest realizowany w ramach programu Centrum Kompetencji AI.