Unikaj zagrożeń i nieporozumień – przygotuj stronę do ery AI

Nawet najlepszy robot kuchenny nie ugotuje smacznego obiadu bez jakościowych, odpowiednio przygotowanych składników. Sztuczna inteligencja działa tak samo. Odpowiedzi AI będą tylko tak dobre, jak dobra będzie wiedza, którą publikujemy. Jak przygotować stronę internetową hotelu do ery AI.

Załóżmy, że kilka miesięcy temu uruchomiliśmy w obiekcie promocję – do każdego pokoju w standardzie Premium, jeden wybrany zabieg spa gratis. Promocję opisaliśmy na dedykowanej podstronie i przez 14 dni podstrona a była promowana na banerze na naszej stronie głównej. Po 14 dniach, gdy termin promocji minął baner zniknął ze strony głównej i zespół uznał, że sprawa jest załatwiona.

CO MOŻE PÓJŚĆ NIE TAK

Dla zwykłego użytkownika przeglądającego naszą stronę internetową, to nie będzie żaden problem, po prostu nie zobaczy baneru, i najpewniej nigdy nie trafi na informację o promocji. A nawet jeśli w jakiś sposób na nią trafi (np. klikając link ze starego maila), to zobaczy informacje o terminach obowiązywania promocji i od razu będzie wiedział, że jest ona nieaktualna.

Załóżmy jednak, że użytkownik zada następujące pytanie poprzez jeden z silników AI, na przykład ChatGPT lub Gemini: co wchodzi w skład oferty pokój Premium w hotelu X? Sytuacja może okazać się wtedy bardzo nieciekawa.

Oto jak najpopularniejsze narzędzia AI podejdą do generacji odpowiedzi na tego typu pytanie:

1. przeanalizują kluczowe zwroty i wybierą najważniejsze frazy, w tym wypadku „skład oferty pokój Premium hotel X”,

2. przeprowadzą wyszukiwanie – czasem z pomocą istniejących mechanizmów jak Google czy Bing, ale czasem niezależnie – opierając się o sitemapę naszej strony,

3. ze wszystkich znalezionych stron wybiorą kilka fragmentów tekstu, które najbardziej pasują do danej frazy,

4. wybrane fragmenty stanowić będą kontekst, na podstawie którego AI wygeneruje odpowiedź.

Co więc może pójść nie tak? Sztuczna inteligencja, opierając się o przestarzałe dane o nieaktualnej promocji, udzieli nieprawdziwej informacji o ofercie.

Nie trzeba długo czekać, aby natrafić na pierwszego gościa, który zacznie się wykłócać, a recepcja nawet nie będzie pamiętać, skąd mógł wziąć taką informację.

Co gorsza, takiej sytuacji nie będziemy w stanie wiarygodnie wykryć ani odtworzyć, ponieważ, odpowiedzi AI są do pewnego stopnia niedeterministyczne. Oznacza to, że sztuczna inteligencja zapytana o tę samą rzecz wielokrotnie, za każdym razem może podać delikatnie inną odpowiedź.

Wynika to właśnie z kontekstu modeli językowych (LLM-ów), które napędzają sztuczną inteligencję i zawsze są ograniczone do konkretnej liczby znaków. Jeśli model znalazł kilka lub kilkanaście stron omawiających temat pokoju Premium, z każdej z tych stron wybierze jedynie fragmenty tekstu, tak aby zmieścić się w swoich ograniczeniach kontekstowych. Bardzo możliwe, że pominie kluczowe informacje, które informują o limitowanym charakterze promocji.

MOŻE BYĆ DUŻO GORZEJ

Opisany powyżej przykład, jest stosunkowo łagodny. Skutki nieaktualnych informacji, które nadal istnieją „gdzieś w naszej domenie” mogą być jednak dużo bardziej opłakane.

Oto kilka przykładów.

• Ryzyko prawne i finansowe
AI cytuje stare zapisy umowne, warunki promocji albo informacje podatkowe. Gość podejmuje decyzje finansowe w oparciu o te dane, a hotel musi tłumaczyć się z czegoś, czego oficjalnie nigdy już nie komunikuje, ale „wisiało gdzieś na stronie”.

• Utrata kontroli nad narracją marki
Odpowiedzi AI zaczynają żyć własnym życiem. To one tłumaczą gościom, „kim jest” nasz hotel i co oferuje, często w sposób uproszczony, niepełny albo zwyczajnie błędny.

• Konflikty z part