Na czym właściwie polega trenowanie modelu AI?
Wyobraź sobie, że uczysz nowego pracownika oceniać, czy faktura jest poprawna. Na początku pokazujesz mu setki przykładów: jedne z błędami, inne bez. Po jakimś czasie sam zaczyna wyłapywać nieprawidłowości, bo widział już tyle przypadków, że zna wzorce. Trenowanie modelu AI działa dokładnie tak samo, tylko zamiast tygodni nauki mamy godziny, a zamiast kilkuset przykładów - miliony.
Żeby model w ogóle zaczął się uczyć, trzeba mu najpierw przygotować dane treningowe. To najdłuższy etap całego procesu trenowania - w praktyce potrafi zająć nawet 80% czasu projektu. Komputer nie rozumie słów tak jak człowiek, dlatego każde pojęcie zamienia się w ciąg liczb. Słowa o podobnym znaczeniu, na przykład „faktura” i „rachunek”, trafiają w tej liczbowej przestrzeni blisko siebie, a zupełnie różne - daleko od siebie. Na starcie te liczby są rozrzucone chaotycznie, bo wszystkie parametry modelu są losowe.
Dopiero wtedy zaczyna się właściwe uczenie maszynowe. Model dostaje przykłady i porównuje swoją odpowiedź z poprawnym wynikiem. Gdy się myli, dostaje sygnał i delikatnie poprawia swoje wewnętrzne ustawienia - tak zwane wagi i biasy, które określają, jak silnie połączone są ze sobą poszczególne elementy sieci. Ten mechanizm powtarza się miliardy razy, a model krok po kroku dopasowuje się do prawidłowości obecnych w danych.
Kluczowe jest to, czym go karmimy. Jeśli dane będą złe, niekompletne albo pełne błędów, model nauczy się tych błędów i będzie je powielać. W branży mówi się o zasadzie „śmieci na wejściu, śmieci na wyjściu”. Dlatego tak ważne jest, żeby przed trenowaniem oczyścić i sformatować dane oraz usunąć z nich uprzedzenia - inaczej model będzie dawał niedokładne prognozy. Po trenowaniu zostaje jeszcze test w rzeczywistych zadaniach, a jeśli model nie działa dobrze, cały proces trenowania trzeba powtórzyć.
Skąd model bierze wiedzę i dlaczego to nie jest „magia”?
Wyobraź sobie, że uczysz nową osobę w biurze obsługiwać faktury. Nie pokazujesz jej jednej faktury i nie mówisz „teraz już wszystko wiesz”. Dajesz jej kilkaset przykładów, tłumaczysz, na co zwracać uwagę, a ona z każdą kolejną poprawia swój sposób myślenia. Tak działa trenowanie modeli AI, tylko na znacznie większą skalę. Zamiast setek przykładów model dostaje ich miliony, a zamiast człowieka, który ocenia postępy, działa mechanizm matematyczny.
Na starcie model jest jak czysta kartka. Wszystkie jego parametry - czyli wagi i biasy - są losowe. Słowa, które ma rozumieć, są dla niego tylko ciągami znaków. Komputer nie wie, że „kot” i „pies” to zwierzęta, dopóki nie zamienisz tych słów na liczby. To tak zwane wektory wielowymiarowe, czyli matematyczny zapis, w którym słowa o podobnym znaczeniu znajdują się blisko siebie. Dzięki temu model widzi relacje między pojęciami, zanim jeszcze zacznie je rozumieć.
Potem zaczyna się właściwe uczenie. Model dostaje dane treningowe - na przykład teksty z internetu, książki i artykuły - i próbuje przewidzieć, co powinno znaleźć się w kolejnym zdaniu. Za każdym razem, gdy się myli, mechanizm zwany propagacją wsteczną delikatnie poprawia jego parametry. Ten cykl powtarza się miliardy razy, aż model zacznie odwzorowywać prawidłowości obecne w danych. To nie jest magia, tylko żmudne dopasowywanie liczb, które trwa tygodniami.
Najważniejszy w tym wszystkim nie jest jednak sam model, tylko jakość danych, które mu podasz. Złe dane dadzą złe wyniki, nawet przy najlepszym algorytmie. W praktyce przygotowanie danych potrafi zająć nawet 80% czasu całego projektu. Dlatego przed trenowaniem trzeba oczyścić i sformatować dane oraz usunąć z nich uprzedzenia. Model uczy się na tym, co dostaje, więc jeśli dostanie bałagan, zwróci bałagan.
Dlaczego przygotowanie danych trwa dłużej niż samo uczenie?
Wyobraź sobie, że uczysz nową osobę w biurze obsługiwać faktury. Nie pokazujesz jej od razu systemu. Najpierw przygotowujesz wzory dokumentów, przykłady poprawnych i błędnych wpisów oraz zestaw reguł. To samo dotyczy sztucznej inteligencji. Przygotowanie danych to najdłuższy etap trenowania modeli AI i potrafi zająć nawet 80% czasu całego projektu, jak podaje Poradnik Domownika. Samo uczenie - czyli moment, w którym algorytm analizuje dostarczony materiał - to dopiero finał.
Jakość danych decyduje o skuteczności modelu. Złe dane prowadzą do złych wyników, co określa się zasadą „śmieci na wejściu, śmieci na wyjściu”. Jeśli nauczysz model na fakturach z błędami, będzie je powielał. Dlatego zanim cokolwiek zaczniesz trenować, musisz oczyścić i sformatować dane oraz usunąć z nich uprzedzenia, żeby uniknąć niedokładnych prognoz. To żmudna praca, ale bez niej cały proces nie ma sensu.
Sam proces trenowania przypomina naukę przez powtarzanie. Na początku wszystkie parametry modelu są losowe, a słowa w jego „głowie” rozrzucone chaotycznie. Mechanizm zwany propagacją wsteczną powtarza się miliardy razy, a model krok po kroku dopasowuje swoje parametry - czyli wagi i biasy - aż zaczyna odwzorowywać prawidłowości obecne w danych. To właśnie te parametry odpowiadają za to, czy model udzieli trafnej odpowiedzi.
Dlatego przygotowanie trwa dłużej niż samo uczenie. To nie jest strata czasu, tylko inwestycja w jakość. Dobrze przygotowany zbiór treningowy sprawia, że model rzadziej popełnia błędy w rzeczywistych zadaniach, a Ty nie musisz go ciągle poprawiać. W praktyce oznacza to mniej czasu na poprawki i bardziej przewidywalne działanie narzędzia w Twojej firmie.
Co się psuje, kiedy dane są słabej jakości?
Najczęściej psuje się to, czego nie widać gołym okiem: model nie ma żadnej wiedzy o świecie, tylko uczy się z tego, co dostanie. Jeśli dasz mu do czytania chaotyczne albo pełne błędów opisy faktur, nauczy się, że faktura może mieć pięć różnych pól „kwota” i żadne nie jest wiążące. W branży nazywa się to zasadą „śmieci na wejściu, śmieci na wyjściu” i dotyczy każdego procesu trenowania, niezależnie od tego, czy uczysz model odpowiadać na maile, czy rozpoznawać zdjęcia produktów.
Efekt bywa podstępny, bo na etapie testów wszystko wygląda dobrze. Model świetnie radzi sobie z przykładami, które już widział, ale gdy dostaje nowe, prawdziwe zapytanie od klienta, zaczyna się gubić. To tak zwane przeuczenie: uczeń wykuł odpowiedzi na pamięć, ale nie rozumie tematu. Dlatego przygotowanie danych to najdłuższy etap całej pracy i potrafi pochłonąć nawet 80% czasu projektu, o czym mówi się wprost w poradnikach o uczeniu maszynowym.
Żeby tego uniknąć, dane dzieli się na trzy osobne grupy. Na jednej model się uczy, na drugiej sprawdza się jego postępy w trakcie pracy, a na trzeciej - której nigdy wcześniej nie widział - ocenia się końcowy wynik. Dzięki temu widać, czy model faktycznie rozumie zasady, czy tylko zapamiętał konkretne przypadki. Bez tego podziału łatwo uwierzyć, że sztuczna inteligencja działa lepiej, niż jest naprawdę.
