Deloitte Australia согласилась частично возместить федеральному правительству средства после скандала, связанного с подготовкой отчета стоимостью 440 000 долларов для государственных учреждений, в котором использовался генеративный искусственный интеллект, что привело к многочисленным ошибкам и вымышленным ссылкам в документе.
Об этом сообщает Бизнес • Медиа
Ошибки в отчете и последствия для Deloitte
Отчет Министерства занятости и трудовых отношений (DEWR), опубликованный в июле 2025 года, был направлен на анализ ИТ-систем для автоматизации санкций в социальной сфере. Однако независимые эксперты обнаружили, что значительная часть документа была сгенерирована с использованием генеративного ИИ. В отчете содержалось множество фактических неточностей, поддельных ссылок и так называемых «галлюцинаций.»
«Значительная часть отчета была написана с использованием генеративного ИИ. В результате документ имел множество ошибок, ‘галлюцинаций’ и поддельных ссылок.»
После критики со стороны академического сообщества Deloitte провела внутреннее расследование и внесла изменения в обновленную версию отчета: более десяти вымышленных ссылок было удалено, сноски были исправлены, а библиография переписана. Кроме того, раздел методологии отчета теперь включает прямую ссылку на использование «инструментария модели генеративного ИИ (Azure OpenAI GPT-4o).»
Проблемы прозрачности в использовании ИИ
Ситуация вызвала значительные опасения среди профессионального сообщества в Австралии. Кристофер Радж, исследователь в Университете Сиднея, отметил, что ошибки в отчете являются типичным результатом работы ИИ и поставил под сомнение надежность рекомендаций документа из-за отсутствия прозрачности в использовании технологий.
Министерство занятости и трудовых отношений подчеркнуло, что «суть обзора была сохранена,» и выводы и рекомендации остались без изменений. В то же время чиновники отказались комментировать вопрос полного возмещения за отчет и дальнейшее сотрудничество с Deloitte. Известно лишь, что компания согласилась произвести окончательный платеж по контракту, сумма которого остается неизвестной.
Помимо проблем с качеством, отчет также выявил недостатки в работе самого DEWR: отсутствие документации, ошибки в процессах и «карательная модель соблюдения.» Это продолжило критику со стороны Омбудсмена Содружества по поводу незаконного приостановления сотен социальных выплат.
Эксперты считают, что инцидент подчеркивает необходимость обеспечения прозрачности при использовании ИИ в государственных и корпоративных исследованиях. Тем временем, Deloitte, активно внедряющая инновационные технологии, может столкнуться с риском потери доверия из-за недостаточной открытости в применении ИИ в своей деятельности.