Штучний інтелект дедалі частіше використовують у біології та розробці ліків, але його помилки можуть бути небезпечнішими, ніж здається. Алгоритм здатен створити переконливі дані, яких насправді не існує, а дослідники можуть сприйняти їх за справжній результат.

Системи штучного інтелекту вже допомагають моделювати клітини, створювати структури білків і заповнювати прогалини у складних наборах даних. Однак разом із цим зростає ризик так званих галюцинацій, коли модель генерує правдоподібні, але вигадані висновки.

На цю проблему звернув увагу обчислювальний біолог Тома Бюргер з Університету Гренобль-Альпи. За його словами, небезпека залежить від того, на якому етапі дослідження використовують ШІ.

Якщо алгоритм лише відбирає перспективні молекули серед тисяч кандидатів, його помилка зазвичай не має критичних наслідків. Невдалий варіант можна перевірити в лабораторії й швидко відкинути.

Значно серйозніша ситуація виникає тоді, коли синтетичні дані починають підміняти справжні лабораторні вимірювання.

Під час обробки великих масивів інформації модель може непомітно змінити слабкий сигнал або зробити його сильнішим, ніж він був насправді. У готовому результаті відрізнити таке спотворення від реальних даних може бути складно.

Через це дослідники ризикують побачити закономірність там, де її немає. Вигадана деталізація може створити враження нового механізму дії препарату або перспективного способу лікування.

Можлива й протилежна проблема. Якщо ШІ додасть до результатів надто багато зайвого шуму, справді важливий сигнал може загубитися, а перспективна речовина залишиться непоміченою.

Подібні труднощі вже фіксували в реальних системах. Зокрема, розробники AlphaFold 3 повідомляли, що модель іноді генерує структури, які виглядають правдоподібно, хоча насправді не існують.

Водночас помилкова відповідь алгоритму іноді може випадково підказати дослідникам новий напрям роботи. Проте навіть у такому разі результат ШІ залишається лише гіпотезою.

Будь-яку молекулу, структуру чи закономірність, яку запропонував алгоритм, потрібно перевіряти експериментально. Без лабораторного підтвердження вона не може вважатися науковим відкриттям.

🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover