ИИ-технологии действительно способны погубить человечество — но вовсе не так, как это показывают в кино. Не будет никакого «восстания роботов», оно просто не нужно – люди привыкнут доверять советам ИИ, утратят критическое мышление и сами заведут себя в ловушку. На днях как раз подобный казус произошел при восхождении группы неопытных альпинистов на гору Шаста в штате Калифорния. По итогам они честно признали – опрометчиво перестали думать сами и доверились подсказкам ИИ.
При подготовке к походу альпинисты пользовались Google Gemini, YouTube и сервисом AllTrails. В частности, они попросили ИИ рассчитать время восхождения и дать рекомендации по припасам. Gemini оценил путь всего в 8 часов и на основании этого указал брать с собой быстрые углеводы вместо жиров, потому что последние на таком коротком маршруте не успеют усвоиться. Также люди взяли с собой очень небольшой запас воды – никому не хочется тащить на себе в горы тяжесть, которая вряд ли понадобится.
Следующей ошибкой стало то, что они разбили базовый лагерь у истоков ручья Клир-Крик – это запрещено местными правилами, а потому альпинисты старались избегать контактов с лесничими. Однако на практике восхождение превратилось в испытание – вместо 8 часов они поднимались по горе все 16, по пути у них закончилась вода и еда, а с ней и силы. Альпинисты все же достигли вершины, но обратный путь они уже не осилили бы. Вдобавок, телефон с навигационной программой разрядился, а когда они начали экономить заряды налобных фонарей, один человек оступился и повредил колено – едва при этом не улетев в пропасть с высоты 3,5 км.
Когда оголодавшие и замерзшие люди все же смогли вызвать спасателей, им пришлось ждать на вершине еще сутки – вертолет дважды не мог подобрать их из-за плохой погоды. И, как признают сами спасенные, всего это можно было легко избежать. Надо было просто полагаться на опыт других людей и свой собственный разум, перестраховаться, а не доверять слепо советам ИИ, который подсказал «самый легкий» способ, как его и попросили. Потому что ИИ не несет никакой ответственности за последствия своих советов.
