Эксперт по инновациям Владимир Бандура в эфире с Юрием Романенко обсудил принципиально новый этап технологического развития. Это включает в себя переход от языковых моделей к автономным агентам ИИ. Эти системы способны самостоятельно планировать последовательность шагов с помощью различных инструментов и выполнять сложные многошаговые задачи. Этот прорыв стал возможен благодаря развитию возможностей планирования искусственного интеллекта, который открывает огромные возможности, но также несет в себе серьезные угрозы.
В чем опасность самостоятельных программ?
Уже есть работающие проекты автономных помощников, такие как Clawdbot и Moltbot. Они могут выполнять рутинные задачи, такие как проверка электронной почты, продвижение веб-сайтов или управление учетными записями в социальных сетях. Однако, как указывает Бандура, ключевой проблемой таких решений является практически полное отсутствие встроенных механизмов безопасности. Эти незащищенные агенты часто получают доступ к критически важным данным, таким как банковские карты, пароли и электронные письма, что создает огромный риск для конфиденциальности пользователей. Это тревожный знак для цифрового пространства, где вопросы кибербезопасности особенно актуальны.
Компания SemanticForce обнаружила более миллиона агентов-авторов в одной из специализированных социальных сетей-ботов. Эта ситуация вызывает серьезную тревогу. Бандура сравнивает это с незапертой квартирой.
«Это как незапертая квартира». — доступ к которому может получить каждый. Он привел пример того, как пользователи размещают информацию о своем отсутствии и ценностях, что становится прямым приглашением для злоумышленников. Отмечая, что «Они создали социальную сеть для ботов.«
Эксперт отмечает, что это отражает не только технологический прогресс, но и глубокие социальные проблемы. Даже если такие боты выполняют полезные функции, они все равно требуют пристального наблюдения и четких инструкций со стороны человека.
Таким образом, появление автономных агентов ИИ, несмотря на их потенциал, сопровождается значительными рисками, требующими внимания как со стороны разработчиков, так и со стороны конечных пользователей.
Этот технологический сдвиг в сторону автономных систем делает чрезвычайно важным обсуждение их этических аспектов и аспектов безопасности. С распространением таких технологий, как Clawdbot и Moltbot, необходима повышенная осторожность для предотвращения потенциальных злоупотреблений. Учитывая растущее число агентов в сетях, крайне важно разработать и внедрить новые стандарты безопасности и контроля для защиты личной информации пользователей.
