Муратти говорит, что работа по обеспечению безопасности будущих моделей искусственного интеллекта жизненно важна. «Мы много думаем об этом.

«Мы много думаем об этом. Определенно реально, что у вас будут системы искусственного интеллекта, обладающие агентскими возможностями, подключающиеся к Интернету - агенты, подключающиеся друг к другу и выполняющие задачи вместе, или агенты, подключающиеся к людям и беспрепятственно сотрудничающие», — сказала технический директор OpenAI Муратти.
Это будет включать в себя ситуации, когда люди будут «работать с ИИ так же, как мы работаем друг с другом сегодня», через агентоподобные системы.
Она говорит, что строительство систем безопасности должно осуществляться параллельно с технологией, чтобы все было правильно. «Гораздо легче управлять более умной системой, говоря ей не делать таких вещей, чем управлять менее умной системой».
Она говорит, что строительство систем безопасности должно осуществляться параллельно с технологией, чтобы все было правильно. «Гораздо легче управлять более умной системой, говоря ей не делать таких вещей, чем управлять менее умной системой».

«Интеллект и безопасность идут рука об руку», — добавил Муратти. Она сказала, что нужно думать о безопасности и развертывании, но с точки зрения исследований и безопасность, и улучшения идут рука об руку.
Неясно, как появятся новые функции и расширенные возможности. Это потребовало бы новой науки прогнозирования возможностей, чтобы увидеть, насколько рискованной может быть новая модель и что можно сделать для устранения этих рисков в будущем.
Источник: Tomsguide | Теги: OpenAI, ChatGPT, искусственный интеллект