Робби Стейн из Google подтвердил, что возможности искусственного интеллекта Google, такие как режим искусственного интеллекта и обзоры искусственного интеллекта, интегрируют основные поисковые сигналы Google. Это помогает Google предоставлять более полезные и полезные ответы пользователям в сфере искусственного интеллекта. Но, как многие из вас знают, это не всегда получается правильно.

Робби Стейн снова сказал это в подкасте CNN «Условия обслуживания» с Клэр Даффи, в котором на прошлой неделе мы рассказывали о персонализации Google AI.

Робби сказал: «И я думаю, что мы пытаемся интегрировать все основные виды сигналов поиска в опыт ИИ».

Когда ответ ИИ сбивает с толку или смешивает информацию, Google называет это «потерей», сказал Стейн.

Я имею в виду, что это не новость, Google сказал это, когда они анонсировали SGE, Search Generative Experience, теперь известный как Обзоры AI, еще в мае 2023 года, где я написал:

Да, для этой цели он использует основные системы ранжирования Google Search. В Google заявили, что это помогает им «значительно смягчить» некоторые известные ограничения LLM, такие как галлюцинации или неточности.

Штейн продолжил: «И поэтому, когда он что-то вроде рекомендует или дает вам обзоры, он использует информацию и ссылки на информацию, которую другие сочли очень полезной для ответа на этот вопрос в прошлом. И вполне возможно, что есть множество причин, по которым он может делать небольшие ошибки. Это одна из причин, почему я также думаю, что мы хотим быть уверены, что люди могут сами зайти и просмотреть информацию».

Вот полная расшифровка этого раздела, которая начинается с отметка 12:43 в видео:

Робби Стейн: И я думаю, что мы пытаемся интегрировать все основные виды сигналов поиска в опыт ИИ. И поэтому, когда он как бы рекомендует или предоставляет вам обзоры, он использует информацию и ссылки на информацию, которую другие сочли очень полезной для ответа на этот вопрос в прошлом. И вполне возможно, что есть множество причин, по которым он может совершать небольшие ошибки. Это одна из причин, почему я также думаю, что мы хотим быть уверены, что люди смогут сами зайти и просмотреть информацию.

Клэр Даффи: Расскажите немного подробнее о том, как выглядит это обучение на заднем плане. Это просто дает ему больше данных для работы? Это что-то вроде тренировки с подкреплением, когда вы говорите: «Нет, это был плохой ответ. Вместо этого тебе следовало сделать это». Типа, как это…

Робби Стейн: Что-то вроде всего этого? Я думаю, мы сочли бы то, что вы говорите, потерей. Итак, мы бы сказали, что существует закономерность потерь. Итак, мы смотрим на ссылку и говорим: «Почему она ссылалась на это?» И тогда мы бы поняли. И обычно происходит следующее: есть несколько причин, по которым могут произойти такие простые вещи. Возможно, на странице была ссылка, которая ссылалась на другой бренд, верно? И возможно, это одно. Вы знаете, что может быть случай, когда кто-то упоминает обзор, который широко используется, а затем на самом сайте есть противоречивая информация. То, как пользователь использует продукт, говорит об одном, а, возможно, сам продукт, как и компания, производящая продукты, говорит о другом. Так что же ты делаешь? Вроде информация очень сложная, но Google работает над этим уже 25 лет. И поэтому я думаю, что, вы знаете, мы делаем одну из лучших работ в этой области и изучили, какая информация заслуживает доверия, какая полезна, какие ссылки полезны для людей, какие нет, какая информация является спамом и проблематична, а что нет. И поэтому я думаю, что в подавляющем большинстве люди в целом получают исключительно полезные и качественные ответы. Но, конечно, они могут ошибаться.

Клэр Даффи: Как вы распознаете, если и когда эти ошибки проявятся? Откуда Google знает? Как вы работаете над их исправлением?

Робби Стейн: Да, я имею в виду, что у нас есть метрики глубокой оценки, с помощью которых мы будем запускать через систему множество типов вопросов и проверять их все. Это неустанное внимание к их улучшению, исправлению и улучшению с каждым днем. И затем, когда вы исправляете одну из этих вещей, вы исправляете целую часть системы. А потом происходит то, что происходит через месяц, через несколько месяцев, и становится все лучше, лучше и лучше. И, очевидно, модели также становятся более сложными, и теперь вводятся очень продвинутые модели рассуждения. Так что это совсем другое поколение модели, чем то, когда мы впервые выпустили самый первый обзор AI. И это модель, которая все больше способна рассуждать, продумывать вещи, проверять свою работу, проверять. И теперь вы увидите гораздо больше этого в наших системах искусственного интеллекта.

Клэр Даффи: И вы тоже ищете отзывы пользователей? Например, если я задаю вопрос и что-то не так, например, есть ли кнопка?

Робби Стейн: Да, есть большой палец вверх и большой палец вниз. Вы можете сообщить о проблемах. Мы смотрим на них религиозно. Поставьте палец вниз, если увидите отчет о проблеме, и мы, моя команда, рассмотрим его, мы рассмотрим это, и к каждому из них мы относимся серьезно, и у нас есть системы, которые учитывают отзывы пользователей в масштабе, поэтому Google.

Обсуждение на форуме Х.

ЧИТАТЬ  Лондонский Тауэр: виртуальное путешествие во времени





Source link