Почти 1000 читателей прислали вопросы об искусственном интеллекте в New York Times, отражая широкое замешательство из-за быстрого развития технологий и их потенциальных рисков. В этом месяце представители двух крупнейших американских компаний в области ИИ отметили математические прорывы, одновременно предупреждая, что технология в конечном итоге может уничтожить человечество.

Читатели спрашивали, как ИИ может обрести агентность для действий без человеческого контроля. В настоящее время ИИ-агенты могут редактировать файлы, отправлять электронные письма и писать код, но им недостаёт настоящей агентности — люди должны направлять их и могут выключать их. Существует обеспокоенность тем, что подключение агентов к интернету, электросети, фондовому рынку или военному оружию может вызвать непредвиденный хаос, или что исследователи в конечном итоге разработают системы с настоящей агентностью.

Что касается экзистенциальных угроз, эксперты ссылаются на спекулятивные сценарии: злоумышленники используют ИИ для разработки биологического оружия, системы накапливают экономические ресурсы, или ИИ запускает дроновые войны или ядерные запуски. Защитные меры существуют в компаниях вроде OpenAI, Anthropic и Google; чат-боты обычно отказываются выполнять запросы на создание биологического оружия. В отношении конфиденциальности приложения ИИ вроде ChatGPT на телефоне не могут получить доступ к папкам пользователей, паролям или информации о банковских счетах. Также рассматривались вопросы о замещении рабочих мест, затратах на ИИ по сравнению с человеческими разработчиками, потреблении воды центрами обработки данных и о том, почему ИИ превосходит традиционный поиск Google.

Ключевые сущности: Компании: OpenAI, Anthropic, Google | Люди: Spencer Layman, Dale Kuropat, Emily Wright | Места: Kettering, Ohio, Wickenburg, Arizona, Birmingham, Alabama

Часто задаваемый вопрос: Могут ли приложения ИИ на моём телефоне получить доступ к моим паролям или информации о банковском счёте?

Нет. Приложения ИИ вроде ChatGPT на вашем телефоне или iPad не могут войти в ваши папки или извлечь пароли или информацию о банковском счёте. Они работают внутри изолированных разрешений приложения и не имеют доступа к файловой системе вашего устройства или данным других приложений.