ИИ звучи толкова уверено. Как да разбера кога греши?

Почти всеки собственик, с когото говоря, ми разказва една и съща история. Пробвал е ChatGPT, отговорът е бил подреден, уверен и написан по-добре, отколкото би го написал сам. После идва въпросът: „Добре, а как да разбера кога мога да му вярвам?“

Краткият отговор е неприятен. По тона не можете да разберете. ИИ звучи еднакво уверено, когато знае, и когато гадае.

Новият служител, който никога не казва „не знам“

Представете си нов служител. Бърз е, учтив е, пише прекрасно и отговаря на всеки въпрос за секунди. Има само един навик: никога не казва „не знам“. Когато не знае, отговаря по същия начин, със същата увереност, и попълва празното място с нещо, което звучи правдоподобно.

Такъв служител е полезен. Но никой разумен мениджър не би пратил негов документ към клиент, без да го прочете.

Това не е мое впечатление. OpenAI обяснява, че моделите се обучават и оценяват по начин, който награждава отговора повече от признанието „не знам“. Както на тест с избираеми отговори: ако гадаеш, може да уцелиш, ако оставиш празно, получаваш нула. Затова моделът гадае. Повече за причините съм писала и в „Защо изкуственият интелект халюцинира“.

Какво виждаме в ежедневната работа

Работим с ИИ асистенти всеки ден и ги хващаме в такива грешки редовно. Това не са специални проучвания, а обикновени работни дни. Ето само част от случаите от последните две седмици:

• Линковете. Поискахме обяви за работа и получихме подредена таблица с 27 линка, с описания и ставки. 16 от тях не работеха или бяха измислени. От 10-те линка към Upwork (международна платформа за обяви за работа на свободна практика) 9 водеха до съобщението „Job not found“ („Обявата не е намерена“). Отделно, асистентът обяви за затворени обяви, които бяха отворени.
• Законът. На въпрос за знака ® асистентът отговори по памет, че използването му без регистрирана марка е наказуемо. Когато отворихме самия закон, частта „наказуемо“ не се потвърди.
• Съветът за обновяване. Два пъти асистентът ни каза да изберем „най-новата стабилна версия“ на програма, без да провери списъка. Най-горната версия в списъка се оказа тестова. Истинската цел беше друга.
• Името, което подвежда. По името на една автоматизация асистентът твърдеше, че формата на сайта изпраща грешен отчет и различен номер на клиента. И двете не бяха верни. Бях тествала всяка форма на ръка от начало до край.
• Бележката от вчера. Работна бележка, написана от ИИ в предишна сесия, сочеше към страница на сайта, която не съществуваше. Същата бележка казваше, че е изтрит поток, който си стоеше на мястото.
• Цитатът, който не е цитат. При превода на 105 наши бележки в шест имаше текст в кавички, който изглеждаше дословен, а беше преразказ на преразказ.
• Сметката от днес. Докато подготвяхме темите за тази поредица статии, асистентът сложи в едно изречение две числа от различни преброявания. Звучеше убедително и подсказваше нещо, което не бяхме направили.

Нито една от тези грешки не дойде с предупреждение. Всички звучаха също толкова уверено, колкото и верните отговори.

Изводът не е, че ИИ е лош. Изводът е, че дори когато работите с него всеки ден, пак го хващате в грешка. Въпросът не е дали ще сгреши, а дали някой ще го забележи.

Четири неща, които проверявате винаги

Не е нужно да проверявате всяка дума. Нужно е да знаете къде ИИ най-често попълва празнините.

Има и прост трик, който работи с всеки ИИ асистент: кажете му изрично, че може да отговори „не знам“, и поискайте източник за всяко твърдение. Anthropic препоръчва точно това, за да се намалят измислиците. Не ги спира напълно, но ги прави по-лесни за хващане. Кои грешки са безобидни и кои опасни съм описала в „ИИ халюцинации: безопасни и опасни“.

Как да не повтаряте една грешка два пъти

Тук е разликата, която рядко се обсъжда. Когато служител сгреши, научава урока и следващия път внимава. Когато ИИ сгреши, утре ще сгреши по същия начин, защото не помни предишния разговор.

Затова паметта трябва да е на фирмата, не на ИИ.

При нас работи така. Всяка открита грешка на ИИ се записва като правило във фирмената ни памет, мястото, от което всеки ИИ асистент започва работа. След случая с линковете правилото гласи: всеки линк се отваря, преди да се използва. Оттогава всеки асистент го спазва, без някой да му напомня. Всеки външен линк в тази статия е отворен и проверен по това правило.

Подредената памет сама по себе си не стига. Трябва да е проверено, че правилният запис стига до работата навреме. Как го мерим и къде все още пропуска съм описала в „Фирмената ни памет се справяше добре на тест“.

Това е разликата между това да ползвате ИИ и да имате система около него. Първото ви дава бързина. Второто ви дава бързина, която не се плаща с грешки пред клиенти.

Какво да направите още утре

1. Едно правило за екипа: линк, цифра, закон и цитат от ИИ не излизат навън без проверка. Ако искате да го формулирате добре, вижте правилата за ИИ в екипа.
2. Едно място за грешките: обикновен документ, в който всеки записва къде ИИ е сгрешил и как е хванато. След месец ще видите повтарящите се грешки.
3. Един отговорен човек: някой, който отговаря дали правилата се спазват. Без собственик правилото остава пожелание.

Ако искате екипът ви сам да разпознава кога ИИ греши, точно това учим в AI Ready Standard. Други примери за грешките на ИИ има в „Когато ChatGPT, Claude и Gemini сгрешиха“ и в „7-те AI мини“.

А ако искате да видите къде във вашата фирма ИИ вече работи без проверка, оттам започва анализът ми. Започнете оттук.