AlphaGo i ruch 37: chwila, w której AI zagrała ruch, którego nikt nie rozumiał

Nie każda przełomowa chwila w naszej branży to atak. Niektóre to momenty, w których świat zrozumiał, że zmienia się coś fundamentalnego. 10 marca 2016 roku, w drugiej partii historycznego meczu między programem AlphaGo a jednym z najlepszych graczy go w dziejach, Lee Sedolem, komputer wykonał ruch numer 37. Komentatorzy zaniemówili. Ruch był tak nietypowy, że wielu ekspertów uznało go z początku za pomyłkę — coś, czego żaden poważny gracz by nie zagrał. A potem, kilkadziesiąt posunięć później, okazało się, że był to ruch genialny, który przesądził o zwycięstwie. To chwila, w której sztuczna inteligencja pokazała, że potrafi być nie tylko szybka, ale i kreatywna w sposób, którego ludzie nie rozumieją. I właśnie dlatego warto ją znać, myśląc o AI w cyberbezpieczeństwie.

Dlaczego go, a nie szachy

W 1997 roku komputer Deep Blue pokonał mistrza świata w szachach — i choć było to głośne, dało się je „wytłumaczyć”: szachy, mimo złożoności, poddają się brutalnej sile obliczeniowej, która przelicza miliony wariantów. Go było uważane za twierdzę nie do zdobycia jeszcze przez dekady. Powód? Skala. Liczba możliwych pozycji w go przekracza liczbę atomów we wszechświecie. Nie da się jej „przeliczyć”. Dobra gra w go wymaga czegoś, co brzmi niemal ludzko — intuicji, wyczucia kształtu, oceny pozycji, której nie sposób sprowadzić do prostej kalkulacji.

Dlatego gdy DeepMind ogłosił, że jego program pokonał zawodowego gracza, a następnie stanął do meczu z legendą pokroju Lee Sedola, świat AI wstrzymał oddech. AlphaGo nie liczył wszystkiego na siłę — uczył się gry z milionów partii i z rozgrywek sam ze sobą, budując coś w rodzaju „intuicji” wyrażonej w sieciach neuronowych.

Ruch, który wyglądał na błąd

I wtedy padł ruch 37. AlphaGo umieścił kamień w miejscu, które łamało uznane zasady gry — na tzw. piątej linii, w sytuacji, w której ludzka teoria go od wieków podpowiadała co innego. Komentatorzy, sami wybitni gracze, byli przekonani, że to błąd programu. Sam Lee Sedol był na tyle zaskoczony, że wstał od stołu i wyszedł na kilkanaście minut, by ochłonąć i przemyśleć pozycję.

Później wyliczono, że prawdopodobieństwo, iż człowiek zagrałby ten ruch, wynosiło mniej więcej jeden na dziesięć tysięcy. To nie był ruch „ludzki, tylko lepszy”. To był ruch obcy — wyrastający z zupełnie innego sposobu patrzenia na grę. A jednak, w miarę jak partia się rozwijała, jego geniusz stawał się coraz bardziej oczywisty. Ruch 37 zbudował wpływ na planszy, który ostatecznie przesądził o zwycięstwie AlphaGo w tej partii. Maszyna nie skopiowała ludzkiej wiedzy — wykroczyła poza nią.

Ludzka odpowiedź: „boski ruch”

Warto dodać, że to nie była jednostronna kapitulacja człowieka. W czwartej partii Lee Sedol zagrał własny ruch geniuszu — posunięcie 78, nazwane później „boskim dotknięciem” — tak nieoczekiwane, że to AlphaGo się „pogubił” i przegrał tę partię. Ostatecznie mecz zakończył się wynikiem 4:1 dla maszyny, ale ta jedna wygrana Lee Sedola pokazała coś ważnego: człowiek i AI potrafią zaskakiwać się nawzajem, a najciekawsze bywa spotkanie dwóch różnych rodzajów inteligencji, nie prosta wyższość jednej nad drugą.

Co to ma wspólnego z cyberbezpieczeństwem

Wydawałoby się, że partia go to odległa ciekawostka. W rzeczywistości ruch 37 jest jedną z najlepszych metafor, jakie mamy, by zrozumieć, co AI oznacza dla naszej branży — w dobrym i złym sensie.

Po stronie szans: AI potrafi znaleźć rozwiązania, na które człowiek by nie wpadł. W obronie oznacza to zdolność wykrywania wzorców ataku ukrytych w morzu danych, wychwytywania anomalii, których nie opisuje żadna reguła — o czym piszemy w AI po stronie obrony. AI potrafi „zobaczyć” związki niewidoczne dla analityka.

Po stronie ryzyka: ta sama kreatywność w rękach atakującego jest niepokojąca. Skoro AI potrafi znaleźć „ruch 37” w go, może też znaleźć nieoczywistą ścieżkę ataku, nietypowy łańcuch podatności, sposób obejścia zabezpieczeń, którego obrońca nie przewidział. To realny wymiar ofensywnego AI — nie tylko szybszego, ale i myślącego inaczej.

A po stronie najgłębszej lekcji: ruch 37 to symbol nieprzejrzystości AI. Nikt — łącznie z twórcami AlphaGo — nie potrafił w chwili wykonania ruchu wytłumaczyć, „dlaczego” był dobry. Maszyna „wiedziała”, ale nie umiała tego uzasadnić w ludzkich kategoriach. To jest sedno problemu, z którym mierzymy się dziś przy każdym wdrożeniu AI: jak ufać systemowi, którego decyzji nie potrafimy w pełni wyjaśnić? W cyberbezpieczeństwie, gdzie stawką jest fałszywy alarm albo przeoczony atak, „bo AI tak powiedziało” nie może być końcem rozmowy. Dlatego przy wdrożeniach zostawiamy człowieka w pętli.

Chwila, która wyznaczyła kierunek

Ruch 37 był w 2016 roku sygnałem, że era, w której AI jedynie odtwarza ludzką wiedzę, dobiega końca — a zaczyna się era, w której AI ją przekracza. Dla wielu badaczy była to chwila, gdy abstrakcyjne rozważania o „inteligentnych maszynach” stały się namacalne. To, co potem wydarzyło się z modelami językowymi i generatywną AI, było kontynuacją tej samej trajektorii, której ruch 37 był publicznym, dramatycznym zwiastunem.

Dla naszej branży to moment założycielski podwójnej natury AI: potężnego sojusznika obrońcy i groźnego narzędzia w rękach napastnika — a przede wszystkim technologii, której siła idzie w parze z nieprzejrzystością.

Podsumowanie

Ruch 37 to chwila, w której maszyna zagrała posunięcie tak obce ludzkiej intuicji, że eksperci wzięli je za błąd — a okazało się genialne. AlphaGo nie skopiowała ludzkiej wiedzy o go; wykroczyła poza nią, pokazując, że AI potrafi być kreatywna w sposób, którego nie rozumiemy. Dla cyberbezpieczeństwa to najlepsza metafora, jaką mamy: ta sama zdolność, która pozwala AI dostrzec ukryty atak w morzu danych, w rękach napastnika oznacza nieoczywiste ścieżki włamań, a jej nieprzejrzystość każe nam zachować człowieka w pętli. Partia go z 2016 roku wciąż uczy nas najważniejszej rzeczy o sztucznej inteligencji: jej siła i jej tajemniczość to dwie strony tej samej monety.

Wdrażasz AI i chcesz robić to z korzyścią z jej mocy, ale bez ślepego zaufania jej nieprzejrzystym decyzjom? Porozmawiajmy — bezpieczeństwo i wsparcie wdrożeń AI to jedna z naszych specjalizacji.

Najczęstsze pytania (FAQ)

Czym był ruch 37 w partii AlphaGo z Lee Sedolem? To 37. posunięcie AlphaGo w drugiej partii meczu z 2016 roku — kamień postawiony w miejscu tak nietypowym, że eksperci uznali je za błąd, a które okazało się genialne i pomogło maszynie wygrać partię. Oszacowano, że człowiek zagrałby ten ruch z prawdopodobieństwem około 1 na 10 000. Stał się symbolem kreatywności AI wykraczającej poza ludzką intuicję.

Dlaczego wygrana w go była większym przełomem niż w szachach? Bo go jest zbyt złożone dla „brutalnej siły” obliczeniowej — liczba możliwych pozycji przekracza liczbę atomów we wszechświecie, więc nie da się ich przeliczyć. Dobra gra wymaga czegoś na kształt intuicji. Pokonanie mistrza go oznaczało, że AI opanowała zadanie uważane za domenę ludzkiego wyczucia, a nie tylko szybkiej kalkulacji.

Co ruch 37 mówi o AI w cyberbezpieczeństwie? Że AI potrafi znajdować rozwiązania nieoczywiste dla człowieka — co w obronie oznacza wykrywanie ukrytych wzorców ataku, a w rękach napastnika nieoczywiste ścieżki włamań. Pokazuje też kluczowy problem: nieprzejrzystość. AlphaGo „wiedziała”, że ruch jest dobry, ale nie umiała tego wyjaśnić — dlatego decyzjom AI nie można ufać bezkrytycznie i potrzebny jest nadzór człowieka.

Czy człowiek w ogóle wygrał którąś partię z AlphaGo? Tak. Lee Sedol wygrał czwartą partię dzięki własnemu genialnemu, nieoczekiwanemu posunięciu (ruch 78, nazwany „boskim dotknięciem”), które wprawiło AlphaGo w błąd. Mecz zakończył się wynikiem 4:1 dla maszyny, ale ta jedna wygrana pokazała, że człowiek i AI potrafią zaskakiwać się nawzajem.