Ja nyt se varsinainen kysymys: Kuinka turvallista on luottaa noihin ChatGPT:n antamiin vastauksiin sokeasti? Kaikki se koodi mintä se on antanu, toimii kyllä, mutta onko vaara että koneeseen jää isojakin madon mentäviä aukkoja?
Eiköhän tuo ole mennyt ihan ok.
Mutta tekoälyyn ei tulisi koskaan luottaa sokeasti. Juuri näin videon, missä tekoälyltä kysyttiin, että monta R-kirjainta on "Strawberry" sanassa ja ChatGPT kivenkovaan väitti pitkään, että kaksi ja vieläpä, että ne sijaitsee straw ja berry sanojen yhteyskohdassa. Eli hyvin monesti tekoöly suoltaa täyttää tubaa yhtäkkiä sekaan. Toinen hyvä esimerkki oli jossain kun joku lensi simulaattorissa ja alkoi kyseleen tekoölyltä, että olisi hätätilanne ja että mitä pitäisi tehdä. Käski tehdä kaiken käytännössä väärin ja vielä koomisesti käski rauhoittumaan ja että kertoo lisäohjeita lähempänä laskeutumista, eikä edes suostunut kertomaan esim. että mitä hallintalaitteita tarvitaan. Eli kun mennään sinne vähemmän julkisesti saatavaan dataan, niin tarkkuus laskee radikaalisti ja vielä pahempi, että se voi kivenkovaan tosiaan väittää ihan täysin valheellisia asioita ja yrittää saada loppukäyttäjän uskomaan se.
Minusta tuo tekoäly on oikeastaan parhaillaan kun on vaikkapa kymmeniä tai satoja sivuja jotain materiaalia X esim. raportteja ja yrittää niistä saada jotain tiivistettyä dataa ja vielä itse tsekkaa tuota tiivistelmää sitten lähdemateriaaliin. Eli käyttää sitä tiivistelmää tavallaan itselle referenssinä/sisältöluettelona. Siinä tekoäly on aika pirun hyvä pääsääntöisesti. Miksi käyttää referenssinä? Koska itse kokeillut tätä ja se liittyi ulkomaiseen materiaaliin ja onnettomuuksiin. Tiivistelmässä oli viittaus yhteen tapaustyyppiin mitä en ainakaan nopeasti löytänyt isosta datamäärästä
lainkaan, vaikka hyvin nopeasti kävin materiaalin pari kertaa läpi. Harmitttaa että tuo prompti on hukassa ja itsellä oli kiire, koska olisi mielenkiintoista tietää, että oliko siellä jossain kuitenkin haudattuna erikoisempi ja ainakin varmasti hyvin vähän viitattu tieto.
