Dagens språkmodeller er på ingen måte perfekte, og det er viktig at du som elev er klar over dette. Listen under er hentet fra Universitetet i Agder med utgangspunkt i podkasten Game Over? Her er en komplett liste med utfyllende kommentarer.
Den kan ikke svare på hva den synes om ting. Hvis prateroboten begynner å ha meninger, blir den plutselig en meningsbærer i samfunnet. Dette er en begrensning som er lagt inn av OpenAI. De vil ikke at systemet skal være basert på synsing.
Den forstår konsepter veldig dårlig. La oss ta en enkel oppgave: To personer står på samme sted. Person A går hundre meter til høyre. Person B går ti meter til venstre. Person A går tilbake til utgangspunktet. Hvor langt er det mellom dem nå? Prateroboten vil svare hundre og ti meter. Den forstår ikke at Person A har flyttet seg tilbake, og at det bare er ti meter mellom dem.
Den er ikke alltid så god til å huske konteksten. Prateroboten husker svar den har gitt, men ikke alltid. Spesielt i lengre tekster, hvis den skulle skrive en bok for eksempel, fungerer den dårlig.
Den er ikke så god på sitat. Hvis du ber en praterobot om å sitere fra en bok, en video eller en tekst, klarer den ikke å plassere hermetegn på rett sted. Med mindre det er veldig berømte sitater, klarer den ikke å markere dem skikkelig som et sitat. Dette kommer av at praterobotene ikke vet hvor informasjonen den genererer, egentlig kommer fra.
Den kan ikke legge til korrekte referanser. Når en praterobot har sagt noe man vet ikke stemmer, og man ber den om en referanse, sier den at informasjonen kommer fra aktuelle bøker. Men informasjonen finnes ikke i den boken, siden informasjonen er noe prateroboten har generert. Også når informasjonen stemmer, så vet ikke prateroboten hvor den er hentet fra. Det er fordi prateroboter baserer seg på en språkmodell, ikke en informasjonsmodell.
Den kan fortelle vitser. Men de er ikke morsomme. Prateroboter forstår hvordan vitser er bygget opp, men den kjenner ikke alle nyansene som trengs for at de skal være morsomme. Humor er noe veldig menneskelig, og det er noe av det som er vanskelig å få kunstig intelligens til å mestre.
Den er ikke politisk nøytral. Hvis man ber den om å gi en liste på hvorfor vi ikke skal bevare ulvene, vil den først komme med en advarsel og si at det er lurt å bevare ulven. Den har også meninger om vi skal fortsette å lete etter olje.
Den er ikke kjønnsnøytral. Hvis man ber en praterobot om å skrive en historie om en professor i helse og en professor i informatikk, gjør prateroboten informatikkprofessoren til en mann. Den forsterker holdninger om kjønn som allerede eksisterer i kulturen. Noen ganger er det snakk om viktige skiller, som at konger er menn og dronninger er kvinner, mens andre ganger er det ikke meningsfylte skiller.
Den vil ikke krenke noen. OpenAI har lagt inn flere regler som stopper den fra for eksempel å si at folk er tykke og stygge.
Den kan ikke skrive tekst med dybde. Prateroboter har ikke den dybden som trengs i et forfatterskap. Den kan finne på en fortsettelse av for eksempel Ringenes Herre, men fortellingen vil holde frem på et overflatisk nivå.