Czym są halucynacje AI i dlaczego są problemem w zamówieniach publicznych?

Halucynacje AI to sytuacje, w których sztuczna inteligencja generuje odpowiedzi zawierające fałszywe lub mylące informacje, przedstawiając je jako fakty. Termin ten został zaadaptowany z psychologii ludzkiej, gdzie halucynacje oznaczają percepcję rzeczy nieistniejących. W kontekście AI, halucynacje występują, gdy model generuje odpowiedzi, które nie są oparte na rzeczywistych danych treningowych lub są niepoprawnie dekodowane. Oznacza to po prostu, że system AI “widzi” lub “tworzy” coś, co nie istnieje w rzeczywistości lub nie jest oparte na danych treningowych. Pojęcie to pierwotnie, około 2000 roku, było używane w pozytywnym kontekście w wizji komputerowej, opisując dodawanie szczegółów do obrazu, np. tworzenie obrazów o wysokiej rozdzielczości z niskiej jakości danych. Jednak później, około 2017 roku, zaczęło odnosić się do generowania błędnych lub mylących danych przez systemy AI.

Przykładem halucynacji może być chatbot, który na pytanie o podstawę prawną danej procedury zamówieniowej podaje nieistniejący artykuł ustawy lub wymyśloną interpretację orzecznictwa. Takie sytuacje są szczególnie niebezpieczne w sektorze publicznym, gdzie rzetelność i zgodność z przepisami mają fundamentalne znaczenie.

Dlaczego zamknięte, branżowe rozwiązania AI są lepsze niż open source?

Najważniejszą różnicą między specjalistycznymi narzędziami a ogólnymi modelami AI jest jakość i weryfikacja danych treningowych. Podczas gdy modele open source często trenowane są na różnorodnych, ale nie zawsze wiarygodnych źródłach internetowych, narzędzia takie jak aiZam wykorzystują starannie wyselekcjonowane i zweryfikowane przez ekspertów dokumenty. Ta znacząco redukuje ryzyko generowania nieprawdziwych informacji.

Dodatkowo, zamknięte bazy danych umożliwiają ciągłą aktualizację i kontrolę jakości informacji. Tak jak w aiZam, który opiera się na ponad 100 tysiącach dokumentów z historycznych postępowań. To eliminuje problem “halucynacji” poprzez uniknięcie sytuacji, w których AI musi “wypełniać luki” w swojej wiedzy poprzez generowanie prawdopodobnych, ale nieprawdziwych informacji. Podczas gdy ogólne modele AI mogą generować pozornie sensowne, ale nieprawdziwe informacje o zapisach umownych, karach umownych czy kryteriach oceny ofert, aiZam opiera swoje odpowiedzi wyłącznie na rzeczywistych dokumentach. Dzięki temu specjaliści ds. zamówień publicznych otrzymują informacje, które można zweryfikować i na których można bezpiecznie oprzeć decyzje przetargowe.

Jak wybrać narzędzia AI w zamówieniach publicznych?

Wybór odpowiedniego narzędzia AI w zamówieniach publicznych to decyzja o strategicznym znaczeniu. Choć ogólnodostępne modele AI mogą wydawać się atrakcyjne ze względu na swoją wszechstronność i cenę, ich podatność na halucynacje stanowi poważne zagrożenie w tak wrażliwym obszarze.

Inwestowanie w specjalistyczne rozwiązania, takie jak aiZam, które opierają się na zamkniętych, zweryfikowanych i aktualizowanych bazach danych, jest gwarancją precyzji, wiarygodności i bezpieczeństwa. Tylko w ten sposób sztuczna inteligencja może stać się prawdziwym inteligentnym partnerem w tworzeniu dokumentacji zamówieniowej, wspierając zamawiających w efektywny sposób i minimalizując ryzyko błędów.