- Сообщения
- 4.590
- Реакции
- 5.049
Мы можем как угодно относиться к росту могущества «думающих» роботов на планете Земля, но вынуждены следить за новостями ИИ-машин, потому что являемся заложниками их действий.
Исследователи из Google DeepMind и Стэнфордского университета представили новую систему автоматизированной оценки SAFE, которая анализирует ответы, предоставленные искусственным интеллектом, и ищет среди них ошибочные.
Проверка ответов чат-ботов с искусственным интеллектом – это крайне непростой процесс, который возлагается в значительной степени на живых людей – так называемых «аннотаторов». SAFE, разработанная учеными в области ИИ, не только позволяет легко масштабировать процесс проверки, но и демонстрирует лучшую производительность, чем люди, говорится в статье исследователей.
В рамках исследования специалисты использовали до тринадцати языковых моделей, охватывающих четыре семейства моделей, включая Gemini, GPT, Claude и PaLM-2. Процесс проверки предусматривал сложную многоэтапную систему рассуждения, в которой оценивали каждый факт, предоставленный ИИ, в контексте результатов поиска.
С помощью этих крупных речевых моделей (LLM) исследователи сформировали набор данных из около 16 тысяч отдельных фактов. Затем каждый факт независимо проверялся на точность с помощью поиска Google.
Также проверялась релевантность отдельных фактов по данному запросу. В 72% случаев оценки ответов SAFE совпадали с оценками людей-аннотаторов. В целенаправленном анализе ста спорных фактов определения SAFE были более правильными, чем предоставленные человеком, в 76% случаев.
Посредством такой проверки удалось значительно повысить точность моделей. В частности, GPT-4-Turbo достиг уровня фактической точности в 95%. Эта система также позволяет повышать правдивость и надежность информации, созданной LLM, уменьшая затраты на этот процесс. По словам исследователей, работа системы в 20 раз дешевле аннотаций, создаваемых людьми.
А тем временем ведущая компания в области искусственного интеллекта OpenAI направляется в Голливуд, чтобы продемонстрировать потенциал своего нового программного обеспечения Sora. Sora –это генератор текста в видео, который может кардинально изменить процесс создания фильмов.
Продюсер Тайлер Перри (Tyler Perry) уже ознакомился с его возможностями и был настолько удивлен, что отложил планы на 800 миллионов долларов по расширению своей студии в Атланте.
Перри выразил восхищение возможностями Sora, но также выразил опасение, как это может «повлиять на людей, работающих в индустрии». Говоря проще, их заменят роботами и выкинут на улицу.
OpenAI планирует выпустить Sora для широкой публики в конце этого года. Подробности обсуждений пока что остаются неизвестными. OpenAI ведет переговоры, но конкретные детали пока не известны.
Представитель компании заявил, что компания OpenAI стратегически сотрудничает с индустрией, поэтапно внедряя новые разработки в ИИ, чтобы обеспечить безопасное использование и дать людям представление о будущем.
Sora – наиболее революционная система искусственного интеллекта, разработанная OpenAI. Это диффузная модель, обученная на множестве реальных видео. Машина способна уверенно генерировать короткие видео по текстовым запросам.
В процессе генерации Sora берет случайный «шумный» ролик и шаг за шагом превращает его в четкое видео, соответствующее запросу пользователя. Sora умеет генерировать по текстовому запросу, видео или картинке. Она также может создать видеоряд с нуля, расширить имеющийся ролик или анимировать любую готовую картинку.
