Het integreren van een chatbot in een zoekmachine is niet alleen een technologische uitdaging, maar brengt ook enorme extra kosten met zich mee ten opzichte van traditionele zoekopdrachten. Het zal zeker even duren voordat de techreuzen deze kosten kunnen drukken.
In het nieuws: een gesprek met AI zal Google bijna 10 keer meer kosten dan een eenvoudige zoekopdracht op trefwoorden, legt Alphabet-voorzitter John Hennessy uit aan Reuters.
De details: de opbrengsten van advertenties gerelateerd aan deze zoekopdrachten zullen niet genoeg zijn de kosten te compenseren.
- De kosten voor Google zouden met 6 miljard dollar toenemen tegen 2024 als AI-gebaseerde zoekopdrachten de helft van de opdrachten op zijn zoekmachine vertegenwoordigen, gebaseerd op een antwoord van 50 woorden, schatten analisten.
Belangrijk om op te merken: de computerkosten die worden gegenereerd door vragen te stellen aan ChatGPT blijven beperkt tot enkele eurocenten per gesprek – afhankelijk van hoelang de digitale conversatie is. Dat komt omdat OpenAI heeft gewerkt aan het verbeteren van de efficiëntie van het antwoordproces van zijn AI, maar ook omdat deze versie van ChatGPT in feite berust op meerdere generaties van AI.
Optimaliseren om de kosten te beperken: SemiAnalysis, een onderzoeks- en adviesbedrijf gericht op chiptechnologie, rekent eerder op een extra kost van “slechts” 3 miljard dollar, dankzij het gebruik van Google’s interne chips, de beroemde Tensor Processing Units.
- Dat is een visie die wordt gedeeld door de voorzitter van Alphabet. Die is er namelijk van overtuigd dat de kosten van AI-zoekmachines snel zullen dalen door nauwkeurige aanpassingen.
- Een andere oplossing is het aanbieden van een meer gerichte versie van zijn AI LaMDA (Language Model for Dialogue Applications) waarop Bard is gebaseerd. De chatbot geïntegreerd in Google Search zou dan minder veeleisend zijn qua middelen, terwijl het perfect aan de behoeften van gebruikers voldoet.
Waarom kost dit type zoekopdracht meer?
Wat het verschil maakt tussen conventioneel zoeken en zoeken versterkt door AI, is de vereiste rekenkracht om een antwoord te leveren.
- Een generatieve AI heeft miljarden dollars aan processoren nodig om te werken.
- Daar komen natuurlijk de kosten voor elektriciteit tijdens het proces bij, evenals de druk op bedrijven om hun ecologische voetafdruk te beperken.
Twee verschillende werkingen:
- Bij traditioneel zoeken scannen Google’s crawlers het web en compileren ze een index van informatie.
- Terwijl bij een AI-zoekopdracht het antwoord op een vraag wordt afgeleid uit voorafgaande training en een database – of direct via het web.
Op dit moment is het nog te vroeg om exact te bepalen hoeveel het toevoegen van chatbots aan zoekmachines zou kosten, omdat de effectiviteit en het gebruik aanzienlijk variëren afhankelijk van de betrokken technologie, volgens een bron dicht bij Google.
Het is de moeite waard
Hoewel Alphabet zich bewust is van het feit dat zoekopdrachten via AI enorme extra kosten met zich mee zullen brengen, is de techgigant optimistisch over zijn vermogen om die kosten te verminderen door zaken aan te passen.
De belangrijkste concurrent van Alphabet op dit gebied, Microsoft, is ook optimistisch.
- De CFO van het bedrijf, Amy Hood, verklaart dat het voordeel van het winnen van gebruikers en advertentie-inkomsten opweegt tegen de uitgaven, meldt Reuters.
- “Dit is extra brutomarge voor ons, zelfs tegen de prijs van de besproken service,” voegt ze eraan toe.
“Technologie wordt goedkoper op grote schaal en na verloop van tijd.”
Richard Socher, CEO van de zoekmachine You.com
Ondanks deze optimistische visie is de kostprijs van het integreren van AI in hun diensten een van de belangrijkste redenen waarom de techreuzen deze technologie niet van de ene op de andere dag hebben geïmplementeerd, volgens Paul Daugherty, technologiedirecteur bij Accenture.
(as/ns)
