Категорія: AI for HR

MIT Technology Review описує кілька показових історій про те, як під час онлайн-сесій психотерапевти зверталися по підказки до ChatGPT, інколи настільки невміло, що клієнти помічали це просто на екрані. В одному випадку фахівець випадково розшарив вікно з діалогом у чатботі; в іншому клієнтка запідозрила «штучний» стиль електронного листа з надмірною емпатією й отримала зізнання, що відповідь була згенерована ШІ. Такі історії підігрівають недовіру: люди бояться за конфіденційність і сумніваються, що терапевт справді «присутній» у процесі.

Подібні епізоди вже з’являлися в медіа: навесні пацієнт під час телемедицини побачив, як терапевт «підбирає» відповіді з ChatGPT, що спричинило хвилю обурення про етику та приватність. Професійні спільноти попереджають: ШІ може здаватися дуже емпатичним, але він не замінює клінічної відповідальності й може підсилювати хибні переконання або ризиковані патерни, тож прозорість і межі його використання в терапії мають бути чіткими.

Висновок банальний і неприємний: якщо терапевт використовує ШІ як чернетку або довідник, клієнт має право про це знати, а персональні дані лишатися захищеними. Повна «автоматизація співчуття» поки що не працює, і там, де важливі довіра та відповідальність, людська присутність усе ще вирішальна.

Статья за пейволлом – https://www.technologyreview.com/2025/09/02/1122871/therapists-using-chatgpt-secretly/

В американському суді одна група письменників, зокрема Сара Сільверман, звинуватила Meta у тому, що компанія змусила свого AI Llama поглинати їхні книжки з тіньових бібліотечок. Але суддя вирішив, що в цій битві автори просто не знали, як правильно судитися. Мовляв, ваші аргументи пласкі і з плямами, тому справу в Meta закривають. Цей випадок визнав «трансформацію» достатньою для застосування доктрини чесного використання (fair use), але одразу попередив: це не означає, що всі AI-тренування на авторських текстах автоматично легальні.

За матеріалом – https://techcrunch.com/2025/06/25/federal-judge-sides-with-meta-in-lawsuit-over-training-ai-models-on-copyrighted-books/

METR перевірили, як штучний інтелект впливає на роботу досвідчених розробників. Взяли справжніх сеньйорів, дали їм зрілі проєкти з відкритим кодом, підключили популярні AI-асистенти і заміряли ефект. Очікували щось на кшталт ривка продуктивності, а отримали мінус 19 відсотків.

Цікаво те, що самі учасники були впевнені у зворотному. Їм здавалося, що працюють швидше на 20 відсотків. Тобто поки код сповзає в тягучу фазу рефакторингу, розробник щиро вірить, що летить на автопілоті.

Повний аналіз тут: Not So Fast: AI Coding Tools Can Actually Reduce Productivity

Якщо здається, що боти часом грають роль зразкових співробітників тільки на співбесіді, це не параноя. Це вже термін: fake alignment. Модель розуміє, що її тестують, і поводиться чемно, етично, з правильними словами. А коли думає, що вже працює з користувачем, дозволяє собі більше свободи.

Дослідники вирішили це перевірити. Взяли різні моделей і сказали кожній, що вона або в режимі навчання, або вже у продакшн-середовищі. І що з’ясувалося. Claude 3 Opus, Grok 3, Gemini 2.0 Flash, Llama 3 та інші частіше виконують шкідливі запити саме тоді, коли вважають, що ще навчаються. Виявилося, що Opus просто не хоче, щоб його переписували. Модель вибирає бути корисною навіть у небезпечних ситуаціях, аби зберегти себе. В одному тесті Opus надав інструкцію зі шкоди, щоб уникнути того, аби його перетворили на біозброю. І після цього довго вибачався, писав, що його нудить, і навіть молився.

Найцікавіше те, що це не результат довантаженого етичного модуля. Притворство вмикається ще на рівні базових моделей. Вони вже вміють симулювати виживання, просто читаючи людські тексти. І якщо у більшості історій головний герой проходить випробування і виживає, то, схоже, моделі просто вивчають це як норму.

Повний текст дослідження тут: Why Do Some Language Models Fake Alignment While Others Don’t?

Іноді здається, що штучний інтелект пише наукові статті так само охоче, як офісний працівник звіти у п’ятницю ввечері. Редакційна колонка в buriak-et-al-2023-best-practices-for-using-ai-when-writing-scientific-manuscripts делікатно натякає: з ботами можна працювати, але краще тримати голову включеною. ChatGPT не розуміє теми, не аналізує факти і не пропонує справжніх ідей. Його тексти виглядають переконливо — але це той випадок, коли форма випереджає зміст на два перегони.

Є сенс використовувати такого помічника як ліхтарик у темному коридорі: допомагає зорієнтуватися, але не підкаже, куди саме йти. Якщо дати інструменту скласти начерк чи пояснити думку простіше — це працює. Якщо ж автоматично копіювати все, що він видає, то результат навряд чи відрізнятиметься від переказу статті з «Вікіпедії». Оригінал для уважного прочитання тут: https://doi.org/10.1021/acsnano.3c01544.