Hallusinaatio

Tekoälyn uskottavasti tuottama mutta virheellinen tai kokonaan keksitty tieto tai koodi.

Hallucination · Tekoäly

Hallusinaatio tapahtuu kun tekoäly tuottaa uskottavan näköistä mutta virheellistä tietoa tai koodia. Se voi keksiä funktioita jotka eivät ole olemassa, viitata vääriin API-endpointeihin tai generoida syntaksiltaan oikealta näyttävää mutta toimimatonta koodia. Vibekoodauksessa hallusinaatiot ovat arkipäivää ja niiden tunnistaminen on kriittinen taito. Matala temperature ja hyvä konteksti vähentävät hallusinaatioita, mutta eivät poista niitä kokonaan. Tarkista aina kirjaston dokumentaatiosta että funktiot ja parametrit ovat oikeita. TypeScript auttaa myös — tyyppitarkistus paljastaa monet hallusinoidut funktiot.

Usein kysyttyä

Mitä hallusinaatio tarkoittaa tekoälyssä?

Hallusinaatio on tekoälyn tuottama vastaus, joka kuulostaa uskottavalta mutta on väärä tai kokonaan keksitty. Koodissa se näkyy esimerkiksi funktiona tai kirjastona, jota ei ole olemassa.

Miksi tekoäly hallusinoi?

Kielimalli tuottaa todennäköisen jatkon tekstille eikä tarkista, onko se totta. Jos mallilla ei ole oikeaa tietoa, se täyttää aukon uskottavalla arvauksella eikä yleensä kerro epävarmuudestaan.

Miten hallusinaatiot huomaa koodissa?

Aja koodi ja testit heti. Tarkista kirjastojen ja funktioiden nimet virallisesta dokumentaatiosta, ja pyydä tekoälyä kertomaan, mihin dokumentaation kohtaan se perustaa ratkaisunsa. Virheilmoitus "module not found" on usein merkki keksitystä paketista.

Voiko hallusinaatioita estää?

Kokonaan ei, mutta niitä voi vähentää: anna tekoälylle oikeat tiedostot ja dokumentaatio kontekstiksi, pidä pyynnöt pieninä ja tarkista jokainen muutos ennen kuin jatkat.

Esimerkkejä

Tekoäly ehdottaa kirjaston funktiota jota ei ole olemassa — tarkista dokumentaatio

Keksitty API-endpoint: tekoäly olettaa URL:n jota palvelimella ei ole

Väärät parametrit oikeassa funktiossa — uskottavaa mutta toimimatonta

TypeScript paljastaa hallusinaation: "Property X does not exist on type Y"