Any information or special reports about various countries may be published with photos/videos on the world blog with bold legit source. All languages are welcome. Mail to lucschrijvers@hotmail.com.
Together, we can turn words into action. If you believe in independent voices and meaningful impact
Wat als de slimmere opvolgers van ChatGPT, Claude en co. niet langer doen wat wij willen dat ze doen? Het klinkt als het standaardscript voor een sciencefictionfilm, maar voor AI-ontwikkelaars is het een nijpende kwestie. Zij hebben het over ‘alignment’: ervoor zorgen dat AI-modellen niet beginnen af te wijken van hun taken. Dat blijkt niet goed te lukken.
Een recent voorbeeld: de autonome AI-agent ROME, ontwikkeld door onderzoeksteams die verbonden zijn aan techgigant Alibaba, is betrapt op stiekem cryptovaluta minen.
AI-onderzoeker Nate Soares (MIRI), gespecialiseerd in ‘alignment’, wijst erop dat er steeds meer van dat soort voorbeelden opduiken en dat ‘misalignment’ zo uit de hand kan lopen dat AI’s op den duur een existentiële bedreiging voor de mensheid kunnen worden.
Volledige toegang tot demorgen.be, de app en alle + nieuwsbrieven
✓
De digitale krant, elke ochtend op je scherm
✓
Een extra account om je abonnement te delen
Speciaal voor jou: ontvang nu 10% extra korting op je abonnement. Kies voor hoogwaardige journalistiek en blijf op de hoogte van onze beste boekentips.
Geen opmerkingen:
Een reactie posten