Дискусій про довіру до ШІ зараз більше, ніж самих відповідей ШІ. Одні кажуть «він бреше», інші — «він розумніший за нас усіх». Мені здається, насправді всі все і так більш-менш розуміють, але захотілось розкласти це по поличках — бо коли розумієш, звідки береться відповідь, питання довіри вирішується майже автоматично.

Зліпок суспільства

Якщо не заглиблюватись у технічні деталі, AI-модель — це дуже великий об'єм текстів з інтернету. Статті, новини, прес-релізи, наукові роботи, документація, коментарі користувачів, пости на форумах — і так далі, і тому подібне.

Тобто це не якийсь окремий цифровий розум, що сидить у серверній і аналізує. Це всього на всього зліпок суспільства. Точніше — тієї його частини, яка має доступ до інтернету і щось туди пише, і тільки на той момент, коли ця модель релізнулась.

А тепер згадайте, що ви знаєте про суспільство. У ньому є добро і зло. Є експерти і є диванні аналітики. Є люди, які двадцять років займаються своєю справою, і люди, які вчора подивилися одне відео на ютубі — і вже пишуть гайди.

Все це потрапило в модель. Все. Разом.

Питання не «чи бреше ШІ», а «хто це писав»

Коли модель відповідає на ваше питання, вона фактично видає усереднену думку всіх, хто колись писав на цю тему в інтернеті.

І от тут головний момент: якість цієї усередненої думки залежить від того, хто переважно пише на цю тему. Не від моделі. Не від промпта. Від складу авторів.

ШІ — це такий зал. Просто ти не бачиш, хто в ньому сидить.

Лайфхак: рахуй професіоналів

Тому розказую лайфхак. Перед тим, як вирішити, чи довіряти відповіді ШІ, зроби просту вправу:

  1. Визнач галузь питання. До якої професії чи спеціалізації воно відноситься?

  2. Прикинь, хто пише на цю тему в інтернеті. Скільки там справжніх професіоналів, а скільки аматорів? Хоча б приблизно, у відсотках.

  3. Зроби висновок. Що більша частка професіоналів у джерелах — то більше довіри до відповіді.

Кілька прикладів, щоб було зрозуміліше.

Програмування. Документація, яку пишуть автори фреймворків. Stack Overflow, де відповіді проходять природний відбір голосуванням. Технічні блоги інженерів. Так, є й погані туторіали, але частка експертного контенту тут зашкалює. Тому ШІ в коді доволі непоганий — і це не магія, це просто статистика авторів.

Медицина. Наукові роботи і клінічні протоколи є, але поруч із ними — океан форумів, де лікують содою і подорожником. Частка аматорського контенту величезна. Тому відповідь ШІ про здоров'я — це привід піти до лікаря, а не замінити його ШІ.

Юриспруденція. Закони різні в кожній країні і постійно змінюються і модель може впевнено цитувати норму, якої вже три роки не існує. Але разом з цим — відсоток непотрібних практик тут невеликий, склавши правильно і відповідально промпт можна сподіватись на адекватну відповідь.

Побутові теми. Як посмажити картоплю, як замаринувати часник — тут аматори і є експерти, тут господарює пан Смак. В цій справі ризик — це отруїтись, але він нищівно малий.

Як розбагатіти. Цей пункт для жарту, в долі якого є трохи жарту. На одного інвестора припадають тисячі продавців. Тому цього ШІ не зможе підказати ніколи)

Підсумок

ШІ не бреше і не каже правду. Він переказує те, що написало суспільство. А в суспільстві є майстри і є дилетанти.

Тому формула проста: галузь питання → частка професіоналів серед тих, хто про це пише → рівень довіри до відповіді.

Відповідальність має бути там, де вона завжди була — у людини.