Niekorzystanie z AI może przynieść firmie realne straty. Wywiad z Miłoszem Niczyporukiem

Jak przygotować się do wykorzystywania AI w zespole? Jak zadbać o kwestie bezpieczeństwa? Jakie są koszty AI? Na te i na wiele innych pytań odpowiedział nam Miłosz Niczyporuk, Dyrektor Techniczny w Sopra Steria.

Sztuczna inteligencja może znacząco zwiększyć produktywność oraz wydajność w wielu obszarach. Jak jako firma przygotować się do tego wdrożenia?

Wdrożenie sztucznej inteligencji do firm i instytucji może znacząco zwiększyć produktywność oraz wydajność w wielu obszarach. Jednak, aby czerpać korzyści płynące z tej rewolucyjnej technologii, konieczne jest przyjęcie efektywnych i bezpiecznych metod wdrażania AI.

Przygotowanie do takiego wdrożenia wymaga strategicznego podejścia, które obejmuje zdefiniowanie celów, wybór dojrzałych technologii, realizację projektów pilotażowych, tworzenie centrów umiejętności, współpracę z partnerami oraz zgodność z regulacjami.

Jak zadbać o kwestie bezpieczeństwa?

Przy wdrażaniu AI musimy zwócić szczególna uwage na zgodność z obowiązującymi standardami etycznymi i przepisami prawnymi. Nie możemy też zapomnieć o przestrzeganiu przepisów dotyczących ochrony danych.

Sopra Steria dba o przygotowanie i sprawdzanie rozwiązań AI pod kątem zgodności z tymi wymaganiami, co zapewnia bezpieczne i odpowiedzialne wykorzystanie technologii. Opracowaliśmy polityki zawierające rekomendacje dotyczące rodzaju danych, które można przesyłać do modeli AI, oraz najlepsze praktyki, które należy stosować, aby zabezpieczyć sposób korzystania z narzędzi AI.

Oczywiście nasze polityki za wiele, by nie dały, gdyby nasi pracownicy ich nie stosowali. Dlatego ważne jest, aby regularnie aktualizować wiedzę i dzielić się nią poprzez programy takie jak rAIse.

Jaka jest geneza rAIse?

Program rAIse został stworzony jako globalna inicjatywa wspierana przez kierownictwo grupy Sopra Steria, mająca na celu przyspieszenie wdrażania sztucznej inteligencji w organizacji oraz wspieranie klientów w pewnym i korzystnym wdrażaniu tych technologii. Program rAIse powstał z przekonania, że dostęp do narzędzi generatywnej AI jest kluczowy dla rozwoju i innowacji w różnych projektach, zarówno wewnętrznych, jak i zewnętrznych

Jednym z głównych założeń programu jest umożliwienie pracownikom Grupy eksperymentowania z modelami AI w konkretnych projektach, co pozwala na szybkie budowanie, wdrażanie i skalowanie modeli uczenia maszynowego z wykorzystaniem zarówno gotowych, jak i dostosowanych narzędzi.

Program rAIse obejmuje również sesje, które obejmują prezentacje prowadzone przez specjalistów AI oraz dyskusje na temat wpływu AI na społeczeństwo i miejsce pracy.

Dodatkowo zawiera różne moduły szkoleniowe dotyczące generatywnej AI i inżynierii promptów oraz serię modułów eLearningowych AI.

Dlaczego na etapie tworzenia wspólnej definicji tego, czym dla Was jest AI, wykluczyliście chatboty?

W polskim oddziale Sopry Sterii w ramach programu rAIse zaczęliśmy od przeanalizowania obszarów technologicznych, w których AI potencjalnie może zostać użyta. W tym celu stworzyliśmy zespół składający się z liderów w dziedzinach takich jak software development, cloud, data science, testing, automation.

Zespół zaczął od określenia, czym dla nas jest AI. Ważne dla nas było posiadanie wspólnej definicji pomiędzy domenami technicznymi. Na tym etapie zgodziliśmy się wykluczyć chatboty a skupić na dużych modelach językowych.

Chatboty w momencie powstawania zespołu nie były na tyle rozwinięte, by brać je pod uwagę w naszych analizach. Chodzi o chatboty starej generacji niewykorzystujące modeli językowych. Z czasem jednak to się zmieniło i mamy już pierwsze sukcesy we wdrażaniu chatbotów opartych na AI.

Takie podejście pozwoliło na precyzyjne ukierunkowanie działań i inwestycji w te obszary, które przyniosą nam najwięcej korzyści.

Jaka jest dla Was definicja AI?

Generalnie do AI możemy zaliczyć wszystkie technologie, które umożliwiają systemom IT naśladowanie ludzkiego zachowania, uczenia się, podejmowania decyzji, rozpoznawania wzorców oraz rozwiązywanie złożonych problemów. Dodatkowo AI możemy podzielić na sub dziedziny takie jak Machine Learning, Deep Learning i Generative AI. W tym momencie nasze zespoły skupiają się nad rozwiązaniami z ML oraz Generative AI.

Od czego zaczęliście wykorzystywanie AI, by sprawdzić, co tak naprawdę może Wam przynieść?

Aby sprawdzić użyteczność AI w różnych dziedzinach, Sopra Steria Polska przeprowadziła kilka projektów pilotażowych (POC). Projekty te obejmowały:

• generowanie testów za pomocą AI,
• narzędzia wspierające generowanie kodu,
• wsparcie dla data science z użyciem modeli AI,
• implementację RAG na platformie Azure,
• inteligentną analizę logów/incydentów.

Te pilotowe projekty dostarczyły realnych przypadków zastosowań oraz cennych doświadczeń, którymi mogliśmy podzielić się z klientami. Większość projektów zaowocowała realnymi wdrożeniami.

Który z tych projektów zaskoczył najbardziej?

Największym zaskoczeniem okazał się projekt, który używał chmury Azure. Było to jeszcze rok temu, gdy serwisy były w fazie beta. Jednak dzięki nim w łatwy sposób byliśmy w stanie użyć modeli GPT dedykowanych dla nas.

Pierwsze działające rozwiązanie powstały właśnie dzięki szybkiemu dostępowi do modeli, jak i współpraca z naszym partnerem Microsoft. Dzięki politykom m.in. przetwarzania danych opublikowanym przez Microsoft mieliśmy wiedzę nad tym, co się dzieje, gdy prześlemy nasze dane na serwery Azure.

Dzięki łatwemu dostępowi do zaawansowanych modeli i odpowiedniemu poziomowi bezpieczeństwa byliśmy w stanie w szybki bezpieczny sposób przygotować realne casy dla naszych klientów.

Jakie są koszty korzystania ze sztucznej inteligencji w swojej organizacji? Od czego zależy wysokość tego kosztu?

Koszty wykorzystania AI są jednym z ważniejszych aspektów, który musimy brać przy planowaniu wdrożenia. Mamy tutaj dwie drogi, które możemy wybrać. Pierwsza to przetrenowany model lokalnie uruchomiony naszej infrastrukturze. W tym wypadku ponosimy wszystkie koszty związane z zakupem hardware. Jednak mamy większą kontrolę nad tym, gdzie nasze dane są wysyłane i przetwarzane.

Drugie podejście to skorzystanie z modelu udostępnionego jako serwis. Możemy mieć np. dedykowany dla nas model, który znajduje się w chmurze. Te rozwiązanie pozwala nam rozłożyć koszt w czasie. Dodatkowo widzimy, że ceny za używanie AI maleją. Jako przykład możemy wziąć najnowszy GPT-4o, który jest tańszy w użyciu od swojego poprzednika GPT-4.

Tak więc używanie modeli udostępnionych w chmurze może być tańsze i docelowo koszty mogą spadać. Jednak musimy też być świadomym, że dane przesyłamy na serwery trzecich firm.

Wracając do kosztów, możemy sobie wyobrazić system, który udostępnia użytkownikom informacje na temat firmowych procedur. Każde zapytanie zadawane przez użytkownika wiąże się z pewnym kosztem. Koszt ten zależy od ilości danych, które przesyłamy do modelu tzw. tokenów. Jeżeli do każdego zapytania dołączymy dane, na których model ma pracować, rozmiar zapytania znacząco rośnie. Teraz wyobraźmy sobie tysiąc użytkowników żądających średnio po pięć pytań dziennie. Robi się już z tego spora kwota.

Wróćmy do korzyści wykorzystania sztucznej inteligencji. Nie korzystanie z AI przynosi straty?

Nie korzystanie z AI może przynieść firmie realne straty. Przede wszystkim Ai znacznie zwiększa efektywność operacyjną i jakość usług, które dostarczamy klientom. Firma zamknięta na AI może utracić konkurencyjność na rynku. Nie wykorzystanie w odpowiedni sposób innowacji oferowanych przez AI może skutkować utratą klientów, nowych kontraktów.

Brak automatyzacji może prowadzić do marnowania zasobów ludzkich na zadania, które mogłyby być wykonane szybciej i efektywniej przez maszyny. Przykładem mogą być programiści, którzy dzięki wsparciu AI mogą skupić się na bardziej złożonych i kreatywnych aspektach projektów. Taka współpraca nie tylko znacząco zwiększa produktywność, ale również czyni pracę bardziej angażującą i satysfakcjonującą.

---

Miłosz Niczyporuk. Dyrektor Techniczny w Sopra Steria. Posiada ponad 15-letnie doświadczenie w zarządzaniu, projektowaniu i tworzeniu oprogramowania komercyjnego, systemów bazodanowych i aplikacji internetowych, a także integracji systemów. W zakresie jego obowiązków znajduje się definiowanie strategii technologicznej firmy a także people management, w tym tworzenie planów szkoleniowych. Odpowiada za wdrażanie standardów i narzędzi w dziale Application Services oraz kierowanie zespołem badawczo-rozwojowym eksplorującym nowe technologie.