Компанія Deloitte Australia погодилася частково відшкодувати витрати федеральному уряду після скандалу, пов’язаного з підготовкою звіту вартістю $440 000 для державних органів із застосуванням генеративного штучного інтелекту, що призвело до численних помилок та фіктивних посилань у документі.
Про це розповідає Бізнес • Медіа
Помилки у звіті та наслідки для Deloitte
Звіт Міністерства зайнятості та трудових відносин (DEWR), оприлюднений у липні 2025 року, мав на меті проаналізувати ІТ-системи автоматизації санкцій у соціальній сфері. Однак незалежні експерти з’ясували, що значна частина документа була створена за допомогою генеративного ШІ. У звіті виявили велику кількість фактологічних помилок, вигаданих посилань і так званих “галюцинацій”.
“Значна частина звіту написана за допомогою генеративного ШІ. При цьому документ мав масу помилок, ‘галюцинацій’ і вигаданих посилань”.
Після критики наукової спільноти Deloitte провела внутрішнє розслідування та внесла зміни до оновленої версії звіту: було видалено понад десять вигаданих посилань, виправлено виноски та переписано список літератури. Окрім того, у методології звіту з’явилося пряме вказання на використання “інструментарію генеративної моделі ШІ (Azure OpenAI GPT-4o)”.
Виклики прозорості у використанні ШІ
Ситуація викликала значне занепокоєння серед професійної спільноти Австралії. Науковець з Університету Сіднея Крістофер Радж зазначив, що помилки у звіті є типовим результатом роботи ШІ, і піддав сумніву достовірність рекомендацій документа через відсутність прозорості щодо використання технологій.
У Міністерстві зайнятості та трудових відносин наголосили, що “суть огляду збережено”, а висновки та рекомендації не зазнали змін. Водночас посадовці відмовилися коментувати питання щодо повного повернення вартості звіту та подальшої співпраці з Deloitte. Відомо лише, що компанія погодилася виплатити останній платіж за контрактом, сума якого залишається нерозголошеною.
Окрім проблем із якістю, у звіті також було виявлено хиби у роботі самого DEWR: брак документації, помилки в процесах та “каральна модель дотримання вимог”. Це стало продовженням критики з боку омбудсмена Співдружності щодо незаконного призупинення сотень соціальних виплат.
На думку експертів, інцидент підкреслює необхідність забезпечення прозорості під час використання ШІ в державних і корпоративних дослідженнях. Водночас Deloitte, яка активно впроваджує інноваційні технології, може зіткнутися з ризиком втрати довіри через недостатню відкритість щодо застосування ШІ у власній діяльності.