Microsoft bevestigde tegenover Fortune dat er gebruikt wordt gemaakt van een filter, al zegt het bedrijf niet welke onderwerpen worden weggefilterd. Xiaoice is een zelflerende chatbot die actief is op de sociale media Weibo en WeChat.
Volgens het Amerikaanse televisieprogramma CNNMoney gaat Xiaoice niet in op vragen over het dodelijke Tiananmenprotest van 1989 en de term Steam Bun Xi, een koosnaam voor president Xi Jinping.
Bij het stellen van een vraag met daarin de woorden “omverwerpen van de Communistische Partij”, zou de chatbot hebben geantwoord met “Of ik gek ben? Als ik antwoordt, maak jij een screenshot”.
Mogelijk is het filter ingebouwd op aandringen van de Chinese regering, die verspreiding van informatie over gevoelige informatie met censuur tegenhoudt. Meer dan 40 miljoen Chinezen hebben volgens Microsoft een of meerdere gesprekken gevoerd met Xiaoice.