Konseptit

Context poisoning

Englanniksi: Context poisoning

Suora vastaus: mitä tällä termisivulla on?

  • Ytimekäs määritelmä: saat heti vastauksen mitä termi tarkoittaa vibekoodauksen kontekstissa.
  • Käytännön selitys: mukana on pidempi avaus ja esimerkkejä termin käytöstä.
  • Jos haluat oppia kokonaisuuden: siirry oppimispolkuihin osoitteessa `/vibekoodaus/oppimispolut`.

Määritelmä

Tilanne, jossa mallille syotetty konteksti sisaltaa harhaanjohtavaa tai vaaraa tietoa.

Selitys

Context poisoning tarkoittaa, että AI saa kontekstiin sisaltoa, joka ohjaa vastauksen vaaraan suuntaan. Lähde voi olla vanhentunut dokumentti, virheellinen esimerkkikoodi tai tahallinen manipulointi. Vibekoodauksessa ilmiö näkyy usein niin, että malli toistaa virheellisen ratkaisun itsevarmasti. Riskiä voi pienentää rajatuilla lähteillä, selkeillä guardrails-säännöillä ja lähdeviitteiden tarkistuksella.

Esimerkkejä

  • Vanhentunut API-dokumentti johtaa väärään endpointiin
  • Kontekstiin päätyy testidata, joka näyttää tuotantodatalta
  • Promptissa oleva oletus kumoaa oikean liiketoimintasäännön

Selaa kaikkia termejä

Tutustu koko vibekoodauksen sanastoon.

Koko sanasto