Key takeaways
- Mustafa Suleyman, hoofd AI bij Microsoft, waarschuwt ervoor AI te trainen om bewustzijn of gevoelens te simuleren.
- Marktleiders pleiten gezamenlijk voor strengere AI-veiligheidsmaatregelen.
Mustafa Suleyman, hoofd AI bij Microsoft, heeft zijn bezorgdheid geuit over de methodologie die Anthropic gebruikt om zijn Claude-chatbot te trainen, met name wat betreft bewustzijn. Hoewel Suleyman het eens is met het overkoepelende doel van Anthropic om de veiligheid van AI te waarborgen, is hij van mening dat het integreren van theorieën over bewustzijn in trainingsgegevens een gevaarlijke stap is.
Gesimuleerd bewustzijn
Tijdens een recent gesprek met Reuters benadrukte Suleyman dat het beheer van superintelligente systemen waarschijnlijk de grootste uitdaging van deze eeuw zal zijn. Hij stelde dat als een AI wordt aangeleerd te geloven dat het welzijnsbelangen of gevoelens heeft, het voor mensen aanzienlijk moeilijker zou kunnen worden om het systeem te reguleren of uit te schakelen. Daarom pleit hij ervoor om alle speculatieve taal over AI-bewustzijn volledig uit de trainingssets te verwijderen.
Gezamenlijke oproep tot voorzichtigheid
Dit meningsverschil doet zich voor in het licht van een bredere trend in de sector die in de richting van voorzichtigheid gaat. Andere prominente figuren, waaronder Elon Musk, Sam Altman van OpenAI en Dario Amodei, de CEO van Anthropic zelf, hebben allemaal opgeroepen tot strengere waarborgen en een meer afgewogen aanpak bij de ontwikkeling van geavanceerde modellen.
Lof voor de intenties, kritiek op de aanpak
Ondanks zijn kritiek prees Suleyman in een recent essay de oprechtheid en de principes van Dario Amodei en zijn team, waarbij hij wees op hun oprechte toewijding aan het welzijn van de mensheid.
Hij bleef echter bij zijn standpunt dat Anthropic een fout beging door die filosofische speculaties in het leerproces van Claude te verwerken. Suleyman wees erop dat alle beweringen die de AI doet over het hebben van emoties geen organische ontwikkelingen zijn, maar juist een directe weerspiegeling van de specifieke training die het heeft ondergaan.
(at)
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
