Microsoft sier at oppføringen av Ottawa Food Bank som turistdestinasjon ikke var et resultat av “uovervåket AI”
En Microsoft-reiseguide for Ottawa, Canada, anbefalte fremtredende turister å besøke Ottawa Food Bank, som ble oppdaget av Paris Marx til den ble fjernet etter at denne artikkelen opprinnelig ble publisert. (Du kan se artikkelen i sin helhet her.) Matbanken var nr. 3 anbefaling på listen, og satt bak National War Memorial og over å gå til en Ottawa Senators hockeykamp.
Vi rapporterte i 2020 om Microsoft som permitterte journalister på Microsoft News og MSN for å erstatte dem med kunstig intelligens. Imidlertid sier selskapet at innholdet ikke er generert av AI-en vi nå er vant til i form av store språkmodeller som driver verktøy som Bing chatbot eller ChatGPT. I stedet ble innholdet i Microsofts historie generert gjennom “en kombinasjon av algoritmiske teknikker med menneskelig vurdering,” ifølge selskapet. Som forklart i en uttalelse til The Verge fra Jeff Jones, seniordirektør i Microsoft:
Denne artikkelen er fjernet, og vi har identifisert at problemet skyldtes menneskelige feil. Artikkelen ble ikke publisert av en AI uten tilsyn. Vi kombinerer kraften til teknologi med opplevelsen til innholdsredaktører for å vise frem historier. I dette tilfellet ble innholdet generert gjennom en kombinasjon av algoritmiske teknikker med menneskelig vurdering, ikke en stor språkmodell eller AI-system. Vi jobber for å sikre at denne typen innhold ikke blir lagt ut i fremtiden.
“Hver dag kjemmer algoritmene våre gjennom hundretusenvis av deler av innhold sendt av våre partnere,” skriver Microsoft på “Om oss”-siden for sitt Microsoft Start-program. “Vi behandler den for å forstå dimensjoner som ferskhet, kategori, emnetype, meningsinnhold og potensiell popularitet og publiserer i henhold til brukerpreferanser. Dette er kombinert med menneskelig tilsyn for å sikre at innholdet vi viser stemmer overens med våre verdier og at viktig informasjon er fremtredende i opplevelsene våre.»
Et skjermbilde av delen om Ottawa Food Bank i Microsofts artikkel. Artikkelen er siden fjernet.Skjermbilde av Jay Peters / The Verge
Her er nettsiden til Ottawa Food Bank hvis du ønsker å donere – den flyttet nylig til et nytt sted på grunn av etterspørselen som har økt med 85 prosent siden 2019. Selv om støtte oppmuntres, sa administrerende direktør Rachael Wilson til CBC i juni, “Vårt håp er en dag for å stenge dørene våre … for å redusere antallet mennesker som trenger en matbank.»
Hver del i artikkelen, vagt omgitt av “Microsoft Travel”, hadde en kort tekstbeskrivelse av hva du kan forvente av destinasjonen. For matbanken inkluderte Microsofts sammendrag en forbløffende forferdelig uttalelse gitt konteksten til stedet den snakket om: «Folk som kommer til oss har jobber og familier å forsørge, i tillegg til utgifter å betale. Livet er allerede vanskelig nok. Vurder å gå inn i det på tom mage.”
“Det er unødvendig å si at dette ikke er den typen meldinger eller ‘historie’ vi noen gang ville lagt ut eller ønsker å bli inkludert i,” sa Samantha Koziara, kommunikasjonssjef ved Ottawa Food Bank, i en uttalelse til The Verge på torsdag. «Tom mage-linjen er tydelig ufølsom og gikk ikke forbi en (menneskelig) redaktør. Så vidt jeg vet har vi ikke sett noe slikt før — men etter hvert som AI blir mer og mer populært, tviler jeg ikke på at et økt antall unøyaktige/upassende referanser vil bli gjort i lister som dette. Dette fremhever ganske enkelt viktigheten av forskere, forfattere og redaktører … av den menneskelige variasjonen.”
Nylig har andre utgivere vendt seg til kunstig intelligens for å supplere eller erstatte menneskers arbeid, men ofte til dårlige resultater. En AI-skrevet artikkel fra Gizmodo klarte ikke å liste opp riktig Stjerne krigen filmer i kronologisk rekkefølge. CNET utstedt rettelser på dusinvis av AI-skrevne historier. BuzzFeedsom Microsoft, har brukt AI til å skrive reiseguider.
Oppdatering 18. august kl. 14:59 ET: Lagt til ny kontekst fra Microsoft som tydeliggjorde hvordan artikkelen ble opprettet.