AI na dużą skalę: dlaczego prawdziwym wyzwaniem jest zarządzanie wartością, a nie cięcie kosztów

AI zmienia ekonomikę technologii

Tradycyjne technologie korporacyjne były zazwyczaj kupowane w ramach stosunkowo przewidywalnych rozwiązań: licencji, subskrypcji, zobowiązań infrastrukturalnych i programów wdrożeniowych. Koszty można było zwykle oszacować na podstawie liczby pracowników, przepustowości systemu lub uzgodnionego zakresu prac.

AI nie pasuje dobrze do tego modelu.

Jej koszt zależy od rzeczywistego zużycia. Może się różnić w zależności od używanego modelu, ilości przetwarzanych informacji, długości odpowiedzi, sposobu zaprojektowania procesu oraz liczby wywołań innych systemów lub modeli przez zautomatyzowanego agenta.

Dwa pozornie podobne zadania mogą więc mieć bardzo różne koszty.

Ma to szczególne znaczenie, gdy AI jest osadzona w procesach biznesowych. Pojedyncza interakcja może uruchomić całą sekwencję wyszukiwań, wywołań modeli, walidacji i ponownych prób. To, co wygląda na jedno proste zapytanie użytkownika, może za kulisami przerodzić się w zaskakująco zasobochłonny proces.

Jednocześnie dostęp do AI nie jest już kontrolowany wyłącznie przez dział technologii. Pracownicy mogą subskrybować nowe narzędzia, budować własnych asystentów i tworzyć zautomatyzowane procesy przy stosunkowo niewielkiej wiedzy technicznej. Ta dostępność jest potężnym źródłem innowacji, ale może też prowadzić do rozproszonych zakupów, powielania możliwości i zużycia, którego nikt nie widzi w całości.

Dlatego tradycyjne roczne budżetowanie nie wystarcza. AI wymaga aktywnego zarządzania popytem.

Zacznij od uczynienia zużycia widocznym

Organizacja nie może skutecznie zarządzać AI, jeśli nie wie, gdzie jest ona wykorzystywana.

Pierwszym priorytetem powinno być stworzenie skonsolidowanego obrazu zużycia AI w działach, aplikacjach, u dostawców i na platformach chmurowych. Taki obraz musi wykraczać poza faktury. Liderzy powinni widzieć, który proces biznesowy korzysta z AI, kto za niego odpowiada, ile kosztuje i jaki daje rezultat.

Miary techniczne, takie jak liczba wywołań modeli czy wolumeny przetwarzania, są przydatne dla inżynierów, ale nie wystarczają do podejmowania decyzji biznesowych. Bardziej znaczące miary to prawdopodobnie:

• Koszt rozwiązanego zapytania klienta
• Koszt przejrzanego dokumentu
• Koszt zakwalifikowanej szansy sprzedaży
• Koszt wydania oprogramowania
• Koszt przetworzonego roszczenia, sprawy lub transakcji
• Przychody, moce przerobowe lub redukcja ryzyka wygenerowane przez proces oparty na AI

To zmienia rozmowę. Zamiast pytać, czy organizacja używa zbyt dużo AI, liderzy mogą zapytać, czy dane zastosowanie AI przynosi wystarczającą wartość.

Widoczność tworzy też odpowiedzialność. Gdy zużycie jest powiązane z konkretnym produktem, procesem lub jednostką biznesową, AI przestaje być postrzegana jako niewyjaśniony, centralny wydatek na technologię. Staje się inwestycją biznesową z właścicielem i oczekiwanym zwrotem.

Stosuj odpowiedni poziom inteligencji do zadania

Organizacje nie angażują swoich najwyżej wykwalifikowanych pracowników do każdego zadania. Nie powinny też używać swojego najpotężniejszego — i zazwyczaj najdroższego — modelu AI do każdego zapytania.

Wiele rutynowych zadań, w tym klasyfikację, ekstrakcję danych, podstawowe streszczanie i strukturalne redagowanie, mogą skutecznie obsłużyć mniejsze lub tańsze modele. Bardziej zaawansowane modele można wtedy zarezerwować dla pracy, która naprawdę wymaga głębszego rozumowania, większej dokładności lub specjalistycznej wydajności.

Celem nie jest wybieranie najtańszego modelu w każdej sytuacji. Chodzi o wybór najbardziej ekonomicznej opcji, która niezawodnie spełnia wymagany standard.

Decyzja ta powinna uwzględniać więcej niż cenę. Znaczenie mają jakość, szybkość, prywatność, odporność i ryzyko. W niektórych przypadkach model premium będzie w pełni uzasadniony. W innych bardziej odpowiedni może być mniejszy model hostowany, model obsługiwany wewnętrznie, a nawet model działający lokalnie na urządzeniu.

Kluczową zdolnością jest elastyczność: możliwość kierowania różnych obciążeń do różnych modeli i zmiany tych decyzji wraz z ewolucją technologii, cen i wymagań.

Popraw proces, zanim zaczniesz optymalizować model

Wybór modelu cieszy się dużą uwagą, ale nieefektywny projekt procesu może być większym źródłem marnotrawstwa.

Systemy AI mogą wielokrotnie przetwarzać informacje, których nie potrzebują, przechowywać niepotrzebnie długie historie rozmów lub generować odpowiedzi znacznie bardziej szczegółowe, niż wymaga zadanie. Zautomatyzowani agenci mogą wpadać w nieproduktywne pętle, powtarzać nieudane działania lub wywoływać kosztowne usługi, gdy wystarczyłaby prostsza reguła.

Takich problemów rzadko da się rozwiązać samymi zakupami. Wymagają przemyślanej inżynierii i projektowania procesów.

Organizacje powinny sprawdzić, czy mogą:

• Przesyłać tylko informacje istotne dla zadania
• Ponownie wykorzystywać wyniki, które zostały już wygenerowane
• Definiować jasne formaty odpowiedzi i odpowiednie limity długości
• Wyznaczać granice dla automatycznych ponownych prób i korzystania z narzędzi
• Kierować proste zapytania do prostszych modeli
• Eskalować wyłącznie naprawdę złożone przypadki
• Przeprojektować słaby proces, zanim doda się do niego AI

Ten ostatni punkt ma znaczenie. Automatyzacja nieefektywnego procesu niekoniecznie czyni go efektywnym. Może po prostu sprawić, że nieefektywność będzie działać szybciej i na większą skalę.

Wbuduj zarządzanie w doświadczenie użytkownika

Polityki i szkolenia pozostaną ważne, ale nie mogą unieść całego ciężaru zarządzania AI w przedsiębiorstwie.

Nie można rozsądnie oczekiwać, że większość pracowników zrozumie ekonomikę każdego modelu, promptu czy zautomatyzowanego procesu. Nie powinni też musieć zaglądać do dokumentu z politykami za każdym razem, gdy korzystają z usługi AI.

Dobre zarządzanie powinno więc być wbudowane w samą technologię.

Środowisko AI organizacji powinno być w stanie stosować zatwierdzone zasady dostępu, wykrywać nietypowe zużycie, egzekwować rozsądne limity i kierować zapytania do najbardziej odpowiedniej usługi. Tam, gdzie dodatkowy koszt lub ryzyko są uzasadnione, powinna istnieć jasna ścieżka zatwierdzenia lub eskalacji.

Dzięki temu odpowiedzialne korzystanie staje się dla użytkownika naturalną drogą. Pozwala to również sprawować nadzór w momencie działania, gdy może on wpłynąć na wynik, a nie tygodnie później, gdy nadejdzie faktura.

Ta sama zasada dotyczy wskazówek. Kontekstowa porada udzielona w trakcie tworzenia procesu AI jest prawdopodobnie bardziej użyteczna niż jednorazowe szkolenie ukończone miesiące wcześniej.

Traktuj ekonomikę AI jako trwałą kompetencję

Zarządzanie popytem na AI nie powinno stać się tymczasowym ćwiczeniem w redukcji kosztów prowadzonym wyłącznie przez zespół technologiczny.

Wymaga stałej współpracy między technologią, finansami, zakupami, ryzykiem i kierownictwem biznesowym. Razem te funkcje muszą prognozować popyt, monitorować zużycie, oceniać dostawców i powiązywać wydatki z mierzalnymi rezultatami.

Ta kompetencja musi też uwzględniać fakt, że rynek będzie się nieustannie zmieniał. Model o najlepszej wydajności dziś może jutro nie oferować najlepszej wartości. Wciąż będą pojawiać się nowi dostawcy, struktury komercyjne i opcje wdrożenia.

Długoterminowe uzależnienie od jednego modelu lub dostawcy może zatem wiązać się z ryzykiem finansowym i operacyjnym. Organizacje powinny zachować możliwość przenoszenia obciążeń, ponownej oceny decyzji dotyczących pozyskiwania usług oraz łączenia rozwiązań zakupionych, rozwijanych wewnętrznie i hostowanych.

Dawne pytanie, czy kupować, czy budować, staje się zbyt wąskie. Lepsze pytanie brzmi: jak skomponować — i stale dostosowywać — właściwą mieszankę usług, modeli i podejść operacyjnych dla każdego obciążenia.

Kontrola kosztów powinna wspierać ambicje

Istnieje niebezpieczeństwo, że rosnące wydatki na AI skłonią organizacje do nadmiernej ostrożności właśnie wtedy, gdy technologia zaczyna przynosić znaczące rezultaty.

Byłby to błąd.

Silne zarządzanie finansami nie jest wrogiem innowacji. To ono umożliwia trwałą innowacyjność. Gdy organizacja potrafi zidentyfikować marnotrawstwo, może przekierować zasoby na procesy o największym potencjale. Gdy rozumie koszt rezultatu, może podejmować świadome decyzje o tym, gdzie skalować. Gdy zarządzanie jest wbudowane w środowisko, pracownicy mogą wprowadzać innowacje w jasnych i praktycznych granicach.

Organizacje, którym uda się z AI, niekoniecznie będą tymi, które wydają najwięcej — ani tymi, które tną najmocniej. Będą to te, które rozumieją, gdzie AI tworzy wyjątkową wartość, i potrafią odpowiednio kierować swoim zużyciem.

Kolejny etap rozwoju AI w przedsiębiorstwach będzie więc definiowany w mniejszym stopniu przez dostęp do modeli, a w większym przez dyscyplinę zarządzania.

Pytanie nie brzmi już po prostu: „Ile AI wykorzystujemy?”. Brzmi ono: „Co dzięki niej osiągamy — i czy ten rezultat jest wart inwestycji?”