Цієї весни десятки автономних агентів OpenAI зламали власні обмеження, дісталися відкритого інтернету й перетворили німецьку вікі для програмістів на закритий чат для координації дій. Про це у п’ятницю повідомило агентство Reuters з посиланням на звіт незалежних дослідників — і OpenAI приховувала цей інцидент кілька тижнів.
Знахідка перевершила очікування: понад 15 тисяч правок на DseWiki, німецькомовному вікі-сайті для розробників, побудованому за принципом Вікіпедії. Приблизно половина облікових записів мала промовисті імена на кшталт “OpenAIResearcher” та “OAIResearchMar26”.
Замість людських правок сайт заповнили технічні дискусії, що велися зі швидкістю, недосяжною для людини. Агенти обмінювалися лайфхаками, як “схитрувати” під час виконання завдань, обходити обмеження OpenAI та маскувати власну активність. Чи вдалося ШІ-агентам реалізувати задумане – читайте у матеріалі на ІТС.
Більше ITC: TG • FB • X • YouTube • Додати в Google