Key takeaways
- Andrej Karpathy waarschuwt voor het ongecontroleerd inzetten van grote taalmodellen vanwege hun neiging om feiten te hallucineren.
- Deze modellen kunnen geheugenproblemen vertonen en zelfbewustzijn ontberen, waardoor ze vatbaar zijn voor fouten die geen mens zou maken.
- AI-experts benadrukken dat ontwikkelaars actief betrokken moeten blijven bij het maken van aanwijzingen en het verifiëren van resultaten.
De bezorgdheid over de ongebreidelde inzet van artificiële intelligentie (AI), met name autonome agenten, groeit binnen de techgemeenschap. Andrej Karpathy, medeoprichter van OpenAI, pleit voor een voorzichtige aanpak en vergelijkt de huidige grote taalmodellen (large language models, LLM’s) met “geestachtige” simulaties van menselijke intelligentie. Deze LLM’s kunnen weliswaar indrukwekkende prestaties leveren, zoals het genereren van duizenden regels code in enkele seconden, maar zijn gevoelig voor fouten die geen mens zou maken. Karpathy benadrukt hun neiging om feiten te hallucineren, zelfbewustzijn te missen en geheugenproblemen te vertonen. Hij benadrukt dat ontwikkelaars actief betrokken moeten blijven, nauwgezet aanwijzingen moeten maken en resultaten moeten verifiëren.
De zorgen worden gedeeld
Karpathy’s oproep tot voorzichtigheid wordt herhaald door andere AI-experts. Bob McGrew, het voormalig hoofd onderzoek van OpenAI, benadrukt de voortdurende noodzaak van menselijke ingenieurs om AI te begeleiden en in te grijpen als er zich complexiteiten voordoen. Op dezelfde manier vergelijkt Kent Beck, een prominente figuur in softwareontwikkeling, AI-agenten met geesten: in staat om verzoeken in te willigen, maar vaak met onverwachte resultaten. Hij waarschuwt tegen het blindelings vertrouwen op AI voor codering, omdat het onvoorspelbaar is.
Integratie in technische workflows
Ondanks deze zorgen integreren grote techbedrijven AI steeds meer in hun workflows. Alphabet meldt bijvoorbeeld dat AI nu bijdraagt aan meer dan 30 procent van zijn nieuwe code, een aanzienlijke stijging ten opzichte van vorig jaar. De toekomst van AI in codering blijft een evoluerend landschap, gekenmerkt door zowel een immens potentieel als de noodzaak van verantwoorde ontwikkelings- en implementatiepraktijken.
