Разработчик общей поисковой системы

Мы создаём Поиск будущего.

Наша команда начинает строить масштабный проект, который определит технологическое развитие Яндекс Поиска в ближайшие годы.

Как ни странно, сейчас в компании нет общей поисковой системы. Веб-поиск (основной поиск Яндекса, доступный на yandex.ru/search) отличается своей реализацией от поиска по картинкам и видео. Поиски в Яндекс Еде, Музыке или Маркете тоже разрабатываются по большей части независимо. Основной вектор развития всегда задаёт веб-поиск, а остальные лишь догоняют. Со временем он сильно вырвался вперёд: улучшения не успевают добираться до других сервисов, и разрыв в технологиях продолжает расти.

В компании уже решали задачу создания единого поиска. Внутренний проект SaaS (Search-as-a-Service) предоставляет удобный интерфейс для решения простых поисковых сценариев и используется в сотнях сервисов компании. Однако ключевые поисковые проекты всё ещё развиваются независимо, а SaaS недостаточно гибок и всё так же находится в роли догоняющего.

С учётом накопленного в компании опыта сегодня мы понимаем задачу поиска настолько хорошо, что готовы сформулировать общее решение. Наша цель — разработать новую поисковую систему, которая позволит обобщить и унифицировать все поисковые и рекомендательные сценарии. Мы делаем так, чтобы и веб-поиск, и другие поиски в компании развивались в единой среде поверх общей технологической базы, а не параллельно друг другу.

Задача амбициозная и сложная. Сейчас мы работаем над дизайном SaaS нового поколения и внедряем MVP. Сейчас — тот самый момент, когда можно присоединиться к проекту на старте и повлиять на его дальнейшее развитие в целом.

Каким мы видим хорошее решение?

• Концептуально похожим на внешние продукты, например на Elasticsearch, только на большем масштабе и с большей модульностью.
• Поддерживающим различные форматы индексов: полнотекстовые, key-value, trie, N-gram, kNN и другие.
• Позволяющим описать поисковый запрос в относительно простом виде, например на SQL-like-языке.
• С низким порогом входа, с возможностью запустить поиск по своим данным практически без написания кода.

Мы рассматриваем поисковые системы как вид баз данных, но с ослабленными гарантиями консистентности, что позволяет добиться сильно большей производительности.

Какие задачи вас ждут:

- Исследование и проектирование
Вам предстоит познакомиться с существующими поисковыми проектами и принять участие в проектировании дизайна новой распределённой отказоустойчивой поисковой системы.

- Разработка на низком уровне
Вы будете заниматься разработкой и внедрением различных поисковых индексов, кодеков сжатия и компактных структур данных.

- Разработка эффективного рантайма и индексации
Наши инсталляции хранят десятки петабайт данных, потребляют сотни тысяч ядер CPU и обрабатывают сотни миллионов запросов в секунду.

Мы ждем, что вы:

- Хорошо владеете языком C++ и хотите на нём писать
- Знаете классические алгоритмы и структуры данных
- Глубоко разбираетесь в многопоточном программировании
- Использовали и разрабатывали распределённые системы
- Понимаете, как работают поисковые системы и как устроены поисковые индексы внутри (будет преимуществом)