Fout in Google Gemini misleidt Shasta-klimmers: "We vertrouwden te veel op AI"
Klimmers in Shasta geven toe dat ze te veel vertrouwden op Google Gemini nadat een storing in de kunstmatige intelligentie hen in de steek liet. Een waarschuwend verhaal.
De belangrijkste dingen die je moet weten
- Het is raadzaam om vóór elke reis contact op te nemen met het lokale boswachtersstation van Mount Shasta en niet volledig te vertrouwen op kunstmatige intelligentie voor de planning ervan.
- Door de overmatige afhankelijkheid van kunstmatige intelligentie bereikten de klimmers de top pas om 7 uur in plaats van 11 uur, waardoor ze verdwaalden en een van hen gewond raakte tijdens de terugtocht in het donker.
- Belangrijke informatie verkregen via kunstmatige intelligentie moet worden gecontroleerd aan de hand van andere bronnen en referenties, aangezien robots geen praktische ervaring hebben op gebieden zoals bergbeklimmen of de behandeling van verwondingen.
Hier is een waarschuwend verhaal uit Californië, bedoeld voor degenen die vertrouwen op AI-robots om hun outdooravonturen te plannen: een groep klimmers kwam in grote problemen terecht en werd gered van Mount Shasta in Siskiyou County nadat Google Gemini hen onjuiste informatie had gegeven over de omvang van de uitdaging die voor hen lag.
Zoals gemeld door het sheriffkantoor van Siskiyou County (via Engadget ), vertelde de AI van Google de drie onervaren klimmers simpelweg dat ze zich moesten voorbereiden op een acht uur durende tocht naar de top en dat ze eenvoudige koolhydraten in plaats van vetten moesten meenemen, omdat vetten "lang duren om te verteren".
Na meer dan 16 uur, een ernstige knieblessure en nadat ze in het donker verdwaald waren geraakt, had de groep ongetwijfeld spijt van hun beslissing om advies te vragen aan een ongrijpbare kunstmatige intelligentie in plaats van aan een mens die Mount Shasta daadwerkelijk had beklommen.
Gelukkig werden de klimmers de volgende ochtend gered door een team bestaande uit personeel van het sheriffkantoor van Siskiyou County, reddingsvrijwilligers en boswachters van de U.S. Forest die gespecialiseerd zijn in klimmen. Het ongelukkige trio moest echter de nacht doorbrengen op een geïmproviseerd kampeerterrein in het Mud Creek Canyon-gebied van de berg.
Les geleerde les
In een verklaring van het sheriffskantoor staat: "Het is altijd aan te raden om vóór uw reis contact op te nemen met uw lokale Mount Shasta Ranger Station van de U.S. Forest Service (USFS) om er zeker van te zijn dat u over de meest accurate informatie beschikt en niet uitsluitend vertrouwt op kunstmatige intelligentie bij het plannen van uw reis." ( Lees de verklaring ) De verklaring benadrukte ook het belang van het naleven van de vastgestelde terugkeertijd van 12:00 uur 's middags voor klimmers.
De klimmers waren om 3 uur 's ochtends vertrokken in de verwachting de top rond 11 uur te bereiken, maar ze kwamen pas om 7 uur 's avonds aan. Op de terugweg in het donker raakten ze verdwaald en kwamen ze in het dal terecht, waar een van de groepsleden gewond raakte. Daarop riepen ze om hulp.
Hoewel een van de klimmers de AllTrails-app op zijn telefoon had, functioneerde het apparaat tijdens de klim niet meer naar behoren. Zoals SFGate meldt , vertelden de klimmers na afloop aan de rangers: "We vertrouwden te veel op AI in plaats van op ons eigen kritisch denkvermogen."
Hoewel AI ongetwijfeld nuttig kan zijn bij het online zoeken naar informatie, hebben robots zoals Gemini nog nooit bergen beklommen, verwondingen behandeld, financiën beheerd of elektrische bedrading vervangen. Controleer daarom bij belangrijke vragen altijd de bijbehorende bronnen en andere referenties om er zeker van te zijn dat de informatie die u ontvangt correct is.
Reacties zijn gesloten.