Zoeken gebaseerd op AI is kennelijk nogal een duur grapje, als we de voorzitter van Googles moederbedrijf Alphabet, John Hennessy, mogen geloven. In een interview met Reuters stelt hij dat AI-zoekopdrachten momenteel waarschijnlijk tien keer zoveel kosten als 'gewone' zoekopdrachten. Wel verwacht hij dat de kosten snel gedrukt kunnen worden door de technologie te finetunen.
'AI-based search' zal voor Google waarschijnlijk leiden tot zo'n zes miljard USD aan extra kosten per jaar, indien de helft van de zoekopdrachten door een ChatGPT-achtige bot verwerkt worden en de antwoorden zo'n vijftig woorden bevatten, aldus analisten tegen Reuters. De extra kosten zijn grotendeels te wijten aan de extra rekenkracht die benodigd is voor de 'machine learning inference', het proces waarmee AI-zoekopdrachten verwerkt worden. Ook het trainen van het AI-model is volgens Reuters zeer kostbaar.
Hoewel de inference-kosten volgens Hennessy in de komende jaren een stuk lager zullen worden, wil Google in eerste instantie geld besparen door een 'kleinere versie' van het Bard-chatmodel uit te brengen, aldus Reuters. Zo is er veel minder rekenkracht nodig, waardoor er snel naar meer gebruikers opgeschaald kan worden. Verder wordt er volgens Hennessy ook gedacht aan het ontwikkelen van meer gefocuste, kleinere AI-modellen, in plaats van één systeem dat alles doet. Dat zou de kosten volgens de voorzitter namelijk ook kunnen verlagen.
Googles AI-zoekbot Bard
Bron: Reuters
