Нейросеть-убийца? Почему Google пришлось снести свои умные блоки вчера (11.01)

Помните, как Гугл учил нас делать экспертный контент (YMYL - кошелек или жизнь)? Так вот, сапожник снова без сапог.

Вчера (11 января) разгорелся скандал: Google был вынужден экстренно удалять свои хваленые AI Overviews из медицинской выдачи. Причина - расследование Guardian показало, что их нейросеть не просто галлюцинирует, а дает советы, опасные для здоровья. Например, по расшифровке анализов крови ИИ нес полную чушь, пугая людей несуществующими диагнозами.

Гугл официально заявил, что "удалил ответы там, где нейросеть ошиблась". Удобно, да? Вебмастера за такую ошибку они бы закатали под фильтр навсегда, а сами просто "удалили блоки". Кто-то еще верит, что ИИ заменит врачей (или хотя бы сайты клиник) в ближайшее время с таким качеством?