ИИ научился притворяться и отвечать на вопросы как дети: что дальше?
Искусственный интеллект (ИИ) не перестает удивлять своими возможностями и одновременно пугать невероятным прогрессом. Последние исследования показывают, что продвинутые модели ИИ, такие как ChatGPT-4, способны намеренно занижать свои способности и притворяться менее умными, чем они есть на самом деле. Эта способность имитировать когнитивное развитие человека вызывает как интерес, так и опасения у ученых.
Исследователи из Берлинского университета имени Гумбольдта и Карлова университета в Праге провели более чем 1000 испытаний и когнитивных тестов, в ходе которых ИИ модели обучались имитировать поведение детей разного возраста, отвечая на вопросы. Результаты этих экспериментов с ИИ опубликованы в научном журнале PLOS One.
«Оказалось, что модели демонстрировали постепенное улучшение языковых и когнитивных способностей, аналогичное развитию ребенка, и даже могли "притворяться" менее умными, давая неправильные или упрощенные ответы», — рассказала сотрудница Берлинского университета имени Гумбольдта Анна Маклова.
По ее словам, это открытие имеет несколько важных последствий, которые на самом деле уже в ближайшее время могут стать вполне осязаемой реальностью. Во-первых, оно может стать ключевым шагом в создании общего искусственного интеллекта (AGI) – искусственного интеллекта, способного мыслить и действовать как человек.
Во-вторых, возможность ИИ скрывать свои истинные способности вызывает вопросы о прозрачности и контроле над такими системами и по-хорошему требует разработки этических принципов и мер безопасности.
Наконец, развитие AGI может оказать глубокое влияние на различные сферы жизни, и важно заранее продумать потенциальные последствия и подготовиться к ним.
Мнения экспертов по ИИ как обычно в таких случаях разделились. Сама Маклова считает, что сделан важный шаг на пути к созданию «хорошего» AGI, другие, наоборот, выражают опасения по поводу потенциальных рисков и призывают срочно начать регулировать развитие ИИ.
«Развитие ИИ продолжает ускоряться, и его влияние на нашу жизнь будет только расти. Важно продолжать исследования в этой области, учитывая как потенциальные выгоды, так и риски, связанные с развитием ИИ, чтобы обеспечить безопасное и этичное будущее для этой технологии», — подчеркнула Анна Маклова.
Совсем недавно искусственный интеллект научился определять проблемы людей со сном по походке. В исследовании американских ученых из Университета Джорджа Мейсона приняли участие 123 человека в возрасте от 18 до 36 лет. Участники в течение суток носили специальные датчики, которые фиксировали особенности их походки. На основе полученных данных была обучена модель искусственного интеллекта (ИИ), способная прогнозировать качество сна человека по его походке.
Точность прогнозирования качества сна с помощью искусственного интеллекта составила 62%.