CNN, powołując się na cztery źródła zaznajomione ze sprawą, nieoficjalnie informuje, że wiosną tego roku do armii Stanów Zjednoczonych został skierowany raport wywiadu o chińskim statku na Bliskim Wschodzie, który miał transportować elementy programu broni nuklearnej. Z ustaleń CNN wynika, że wojsko rozpoczęło przygotowania do przechwycenia okrętu, w tym wejścia na pokład.
„Dopiero tuż przed planowaną operacją urzędnicy dokładniej przeanalizowali raport sporządzony przez analityka dowództwa operacji specjalnych i odkryli, że został on wygenerowany przy pomocy sztucznej inteligencji (AI) – a chatbot, którego analityk użył, błędnie zidentyfikował materiał przewożony na statku” – czytamy na CNN.com. Nie jest jasne, czym był tak naprawdę transportowany ładunek.
„Tragiczne wnioski”
„Bot połączył informacje wywiadowcze pochodzące ze źródeł otwartych z tajnymi danymi wywiadowczymi przechowywanymi przez rząd i doszedł do tragicznych wniosków na temat materiałów przewożonych na statku” – podaje amerykańska stacja.
Jeden z informatorów ocenił, że raport „prawie doprowadził do wojny”. „Jakakolwiek operacja USA przeciwko chińskiemu statkowi mogła przerodzić się w konflikt zbrojny między oboma państwami” – ocenia CNN.
Ani Dowództwo Operacji Specjalnych USA na Pacyfiku, ani Pentagon, nie odpowiedziały CNN na pytania o sprawę.
„Model może udzielać odpowiedzi niezgodnych z prawdą”
Eksperci ostrzegają, że do narzędzi opartych na sztucznej inteligencji należy podchodzić z ostrożnością. Informacje podawane przez te narzędzia nie zawsze bowiem muszą być zgodne z prawdą.
„Aplikacje oparte na AI często korzystają ze źródeł otwartych, co oznacza, że generują odpowiedzi na podstawie najpopularniejszych miejsc w Internecie. Może to prowadzić do biasowania, czyli stronniczości odpowiedzi, tendencyjności, uprzedzeń i opierania się na stereotypach reprezentowanych w sieci, a nie na obiektywnych faktach i rzetelnej wiedzy” – czytamy w poradniku dotyczącym cyberbezpieczeństwa dostępnym na rządowym portalu Gov.pl.
„Model może również halucynować, czyli udzielać odpowiedzi niezgodnych z prawdą. Zwykle wynika to z faktu, że dane, na których model był trenowany, były błędne, niewystarczające lub niedoskonałe. Dlatego warto sprawdzić źródło, z którego AI korzystała, udzielając odpowiedzi, a także zweryfikować tę odpowiedź, korzystając np. z popularnej wyszukiwarki” – dodają specjaliści.
