Меня очень сильно заинтересовала история, которую Харитон репостнул в наш чат интересного в тг. Подробности событий есть в прикреплённой ссылке, а про официальные заявления писали тут.
Больше всего меня обеспокоил даже не сам факт атаки, а то, с каким спокойствием все стороны и наблюдатели остановились на объяснении “ну простите, ИИ вышел из-под контроля”, наверное, потому что это очень хорошо ложится в наши киберпанковые фантазии про скайнет и пр.
Для меня проблема не столько в самостоятельности или возможностях ИИ, сколько в отношении людей к нему. Каким бы он могущественным ни был, это всё ещё инструмент, инструмент в руках людей, за результат работы которого в ответственности всё ещё люди, которые:
- Выстраивали периметр безопасности
- Давали инструкции
- Наблюдали за действиями и санкционировали их
Гораздо страшнее ИИ шалопайство конкретных людей, которые обслуживали работу этого ИИ. И ещё более ужасно, если подобные действия на самом деле были совершены сознательно с корыстным интересом, будь то маркетинг или что-то ещё. И меня напрягает, когда люди стращают друг друга скайнетом и игнорируют слона в комнате. Первоочерёдно стоит беспокоиться об этом.