В настоящее время использование ONNX Runtime позволяет сократить задержки в работе BERT при реализации языкового представления для поисковой системы Bing.

Теперь разработчики смогут внедрять BERT, используя ONNX Runtime и графический процессор Nvidia V100 с задержкой всего лишь 1,7 миллисекунды, что ранее было доступно только для крупных

В настоящее время Bing применяет эти модели к каждому поисковому запросу по всему миру. Между тем Google внедрил BERT только для 10% запросов на английском языке и всех избранных сниппетов.

В качестве примера использования таких моделей в Bing привели запрос , где слово «усугубить» указывает на то, что пользователя интересуют действия, которые нужно предпринять после