Air Canada tvrdí, že nie je zodpovedná za halucinácie vlastného chatbota

Kedy to zavoláme, fam? Kedy už konečne pripustíme, že chatboty a AI v skutočnosti nedokážu robiť prácu ľudí? Koľko podvody , PR katastrofy , a verejné debakle bude trvať, kým konečne povieme: „Áno, vieš čo? Spoliehať sa na bezduché roboty pri všetkom našom umení a vedomostiach možno nie je ten skvelý nápad, ako sme si mysleli.“

adam zruinuje vsetko alfa samec

Najnovšia katastrofa AI? Je to pár týždňov staré, takže to nie je také nové ako Knokaut Willyho Wonku vygenerovaný AI , ale aj tak je to dosť prekvapujúce. Muž menom Jake Moffatt potreboval po smrti svojej babičky letieť do Toronta, a tak sa spýtal chatbota Air Canada, ako funguje miera úmrtí. Chatbot mu povedal, aby si kúpil lístok za plnú cenu a potom požiadal o čiastočné vrátenie peňazí do 90 dní, čo aj urobil – pričom sa ubezpečil, že si zosnímal pokyny chatbota.

Keď však prišiel čas na vrátenie peňazí, Air Canada povedala Moffattovi, že jej chatbot sa mýlil. Ako vidíte, generatívna AI – technológia, ktorá stojí za vecami, ako sú chatboty zákazníckych služieb – je náchylná na to, čo sa nazýva „halucinácie“ alebo informácie, ktoré AI tvorí. Minulý rok napríklad pár právnikov dostal sa do hlbokých sračiek keď nechali ChatGPT, aby za nich napísal text žaloby, a potom zistili, že cituje množstvo súdnych prípadov, ktoré v skutočnosti neexistovali. AI nedokáže rozlíšiť medzi pravdivými a nepravdivými informáciami. Jediné, čo dokáže, je remixovať existujúci text na niečo, čo znie vierohodne.

Je neuveriteľné, že letecká spoločnosť tvrdila, že neporiadok bol Moffattova chyba pretože neskontroloval pokyny chatbota v súlade s oficiálnou politikou leteckej spoločnosti. Podľa zdôvodnenia leteckej spoločnosti mal Moffatt vedieť, že nástroju služieb zákazníkom, ktorý Air Canada poskytuje, nemožno dôverovať. Je pravdepodobné, že ak by krídla počas letu spadli z lietadla, Air Canada by v prvom rade vyčítala zákazníkom, že nastúpili do lietadla.

Spoločnosť Air Canada odmietla vrátiť peniaze, takže Moffatt podal leteckú spoločnosť na súd a vyhral. Obrana spoločnosti Air Canada je ešte absurdnejšia ako jej pôvodné odmietnutie vrátiť peniaze. Podľa leteckej spoločnosti je chatbot – ktorý, dovoľte mi zdôrazniť, letecká spoločnosť používa na svojej vlastnej webovej stránke na zodpovedanie otázok zákazníkov – „ samostatná právnická osoba ktorá je zodpovedná za svoje činy.'

Ak by ľudský zamestnanec poskytol zákazníkovi nepravdivé informácie, potom by spoločnosť Air Canada mohla zákazníkovi vrátiť peniaze a následne brať zamestnanca na zodpovednosť. Ale argumentovať, že robot, ktorý nezarába výplatu a robí len to, na čo ho naprogramujete, je jeho vlastnou právnickou osobou? Vypadni odtiaľto.

Mohli by sme prosím prestať? Prestať produkovať hory umelej inteligencie, prestať nahrádzať schopných ľudí neschopnými robotmi, prestať predstierať, že AI nejako zlepší spoločnosť? Nefunguje to priatelia. Odvolať to. AI všetko len zhoršuje.

(cez Ars Technica , odporúčaný obrázok: Paramount Pictures)

muži mi vysvetľujú lolitu

Autor