Алгоритм BERT: как искусственный интеллект улучшил поиск в Google

Что такое BERT простыми словами

BERT — это нейросетевая модель, разработанная компанией Google, основанная на технологии трансформеров. Её задача — понимать естественный язык в контексте, а не по отдельным словам.

Прежде чем появился BERT, поисковые алгоритмы пытались сопоставить запрос и документ, опираясь на отдельные ключевые слова. Например, фраза «банки для хранения» могла восприниматься как «финансовые учреждения», хотя речь могла идти о банках для варенья.

BERT «чита́ет» предложение целиком и учитывает значение каждого слова в зависимости от окружающих — это и есть «двунаправленная модель».

Ключевые особенности BERT

Чтобы лучше понять, чем BERT отличается от прежних алгоритмов, выделим его главные особенности:

1. Двунаправленность: анализ запроса происходит сразу в двух направлениях — слева направо и справа налево. Это помогает точнее понимать смысл каждого слова.
2. Обработка естественного языка: BERT построен для понимания именно разговорных, человеческих запросов, а не технических формулировок.
3. Контекстуализация: каждое слово оценивается в контексте всей фразы, что особенно важно для омонимов и предлогов.
4. Глубокое обучение: модель обучалась на огромных массивах текстов (Wikipedia, книги и т.д.) и способна делать выводы, даже по незнакомым формулировкам.

Когда был внедрён алгоритм BERT

Дата внедрения: октябрь 2019 года — сначала в США для английского языка.

Расширение на другие языки: в декабре 2019 года BERT начал работать и с другими языками, включая русский.

Сегодня BERT используется почти во всех поисковых запросах, включая голосовой поиск, автоподсказки и отображение результатов.

Как BERT повлиял на поисковую выдачу

Влияние BERT нельзя недооценить. По словам Google, алгоритм улучшил качество результатов поиска примерно на 10% — это колоссальный показатель в масштабах миллиардов запросов.

Основные изменения:

• Улучшилось понимание длинных и разговорных запросов. Пример: запрос «можно ли получить лекарство для кого-то другого в аптеке» теперь трактуется правильно — с учётом всей фразы.
• Предлоги и частицы перестали игнорироваться. До BERT они не учитывались, что искажало смысл.
• Выдача стала более релевантной и персонализированной, особенно по вопросам, начинающимся с «как», «почему», «можно ли».