Linux ja ChatGPT

[vaari53]

Kun tämä vanha pöytäkone ei kelpuuttanu koneeseen WIn 11 päivitystä, niin asensin sen rinnalle Feroda linuxin versio 42 ja työpöytä on KDE Plasma.

Tässä talven mittaan kone alkoi ehdottamaan Ferodan päivitystä versioon 43 ja annoin siihen luvan. Kone päivitteli paketteja mutta versio pysyi numorossa 42. Teki tämän useampaan kertaan mutta versio ei muuttunu.

Kysyin asiaa ChatGPT tekoälyltä ja sehän neuvo miten päivitys pitää hoitaa jotta versio muuttuu tuoreempaan. Sehän antaa valmiin koodin, sen kun vaan copy/pastaa konsoliin ja painelee enteriä.

Ja niin se versio muuttui 43 lukemaan, helppoa siis. Vastaukset tulee sekunneissa eikä se "guru" nuku koskaan. Mitä nyt ilmaisversio laitaa innokkaan kyselijän muutaman tunnin tauolle jos kysymystulva ylittää tietyn rajan.

Päivityksen jälkeen kaikki toimi normaalisti kunnes tuli asiaa Tori palveluun ja sieltähän oli kaikki kuvat häipyneet. Yritin ensin itse selvittää mistä kiikasta, mutta en löytäny ratkaisua kuvaongelmaan. Siispä kysymys ChatGPT:lle ja sehän teetätti erinäisiä tarkistuksia ja ehdotti lopulta "lopullista ratkaisua" joka varmasti toimii. Ja toden totta, copy/pastea taas konsoliin ja kuvat löyty Toriin.

Ja nyt se varsinainen kysymys: Kuinka turvallista on luottaa noihin ChatGPT:n antamiin vastauksiin sokeasti? Kaikki se koodi mintä se on antanu, toimii kyllä, mutta onko vaara että koneeseen jää isojakin madon mentäviä aukkoja?

[kamara]

Ja nyt se varsinainen kysymys: Kuinka turvallista on luottaa noihin ChatGPT:n antamiin vastauksiin sokeasti? Kaikki se koodi mintä se on antanu, toimii kyllä, mutta onko vaara että koneeseen jää isojakin madon mentäviä aukkoja?

Olisi hyvä ymmärtää, mitä ChatGPT:n ohjeet tarkoittaa, ja kyllähän ChatGPT yrittää kuvata käskyjen toiminnan, ja jos ei kuvaa, niin kannattaa kysyä siltä itseltään, että mitä mikäkin käsky tekee.

Noilla (suurten kielimallien) tekoälyillä on ikävä tapa "hallusinoida", eli antaa vakuuttavasti vastauksia, jotka toimivat joko puutteellisesti tai ei ollenkaan.

Yleisesti ottaen AI:den vastauksiin luotetaan liikaa, koska se antaa vastaukset hyvällä kielellä ja muutenkin vakuuttavasti.

Eli lyhyesti, ei kannata luottaa sokeasti ChatGPT:n vastauksiin, vaikka niihin yleisesti ottaen luotetaan sokeasti.

[AimoE]

Itse en ole kokenut tarvetta kysyä AI:lta mitään, mutta minua kiinnostaisi tietää kokemuksia siitä, miten paljon luotettavuus vaihtelee käyttöalan mukaan. Onko eroa sillä, kysyykö IT-teknisiä asioita, joihin AI antaa valmista koodia, verrattuna vaikkapa potilaiden diagnosointiin tai hakemusten käsittelyyn ja päätöksentekoon? Toki tilanne riippuu aina siitä, kuka kehotteita laatii ja vastauksia tulkitsee.

Traficomin tiedote AI-avustajien käytöstä ja riskeistä antaa organisaatioillle aika ympäripyöreitä neuvoja.

[maksim]

Ei siihen Fedoran versiopäivitykseen tarvita sen kummempaa tekoälyä kuin tämä:
https://docs.fedoraproject.org/en-US/quick-docs/upgrading-fedora-offline/

[vaari53]

Olisi hyvä ymmärtää, mitä ChatGPT:n ohjeet tarkoittaa, ja kyllähän ChatGPT yrittää kuvata käskyjen toiminnan, ja jos ei kuvaa, niin kannattaa kysyä siltä itseltään, että mitä mikäkin käsky tekee.

Eli lyhyesti, ei kannata luottaa sokeasti ChatGPT:n vastauksiin, vaikka niihin yleisesti ottaen luotetaan sokeasti.

Aika hyvin se kuvasi mitä ollaan tekemässä ja monesti kysyinkin lisää jos en ymmärtäny. Kehottaa myös siivoamaan jäljet ettei turhaa tauhkaa jää koneelle.
Minä kun olen lievästi sanottuna "hähähousu" ongelmia kohdatessa, niin olen tyytyväinen sen vastauksiin ja ennenkaikkea siihen nopeuteen miten se niitä antaa. Ja myös se, että koodi toimii on iso plussa. Eihän siinä koodissa taideta kummosta virhettä sallia kun ei toimi ollenkaan.
Mutta kyllähän sen kanssa tarvii olla kriittinen monessa asiassa.

[vaari53]

Ei siihen Fedoran versiopäivitykseen tarvita sen kummempaa tekoälyä kuin tämä:

Noilla ohjeilla hoitunee myös. Itselle oli yllätys ettei "Järjestelmäasetukset - Ohjelmapäivitys" kautta päivitettynä versio ei muuttunu, vaikka siellä se kehotus päivittää 42 - 43 oli näkyvissä.

[ilkant]

Kuinka turvallista on luottaa noihin ChatGPT:n antamiin vastauksiin sokeasti? Kaikki se koodi mintä se on antanu, toimii kyllä, mutta onko vaara että koneeseen jää isojakin madon mentäviä aukkoja?

Olen kysynyt useita Linux-hallinnan kysymyksiä tekoälyltä ja on se vastannut. Pulmat ovat ratkenneet. Kerran yhdessä sosiaalisen median palvelussa minulle tehtiin jonkun haittaohjelman toimesta uusi tunnus. Seurauksena kaikki sisältö ja kaverit katosivat. Grok neuvoi tavan palauttaa vanha tunnus ja se onnistui.

Mutta tekoälyllä ei ole sellaista älyä, mitä ihmisellä on. Tekoäly muodostaa tietämyksen opetusmateriaalista, jota sille on annettu. Eli Internetistä löytyvää materiaalia. Tekoälyllä ei ole arvomaailmaa. Se voi yhdistää asioita tavalla, jota tyhmäkään ihminen ei tekisi. Ja tälläkin foorumilla on todettu, että tekoäly antoi korjausehdotuksen, joka oli ihan eri linux-distrosta eikä toimi siinä järjestelmässä, mihin kyselin.

Lopullinen päätösvalta on hyvä pitää vielä ihmisellä.

[qwertyy]

Ja nyt se varsinainen kysymys: Kuinka turvallista on luottaa noihin ChatGPT:n antamiin vastauksiin sokeasti? Kaikki se koodi mintä se on antanu, toimii kyllä, mutta onko vaara että koneeseen jää isojakin madon mentäviä aukkoja?

Eiköhän tuo ole mennyt ihan ok.

Mutta tekoälyyn ei tulisi koskaan luottaa sokeasti. Juuri näin videon, missä tekoälyltä kysyttiin, että monta R-kirjainta on "Strawberry" sanassa ja ChatGPT kivenkovaan väitti pitkään, että kaksi ja vieläpä, että ne sijaitsee straw ja berry sanojen yhteyskohdassa. Eli hyvin monesti tekoöly suoltaa täyttää tubaa yhtäkkiä sekaan. Toinen hyvä esimerkki oli jossain kun joku lensi simulaattorissa ja alkoi kyseleen tekoölyltä, että olisi hätätilanne ja että mitä pitäisi tehdä. Käski tehdä kaiken käytännössä väärin ja vielä koomisesti käski rauhoittumaan ja että kertoo lisäohjeita lähempänä laskeutumista, eikä edes suostunut kertomaan esim. että mitä hallintalaitteita tarvitaan. Eli kun mennään sinne vähemmän julkisesti saatavaan dataan, niin tarkkuus laskee radikaalisti ja vielä pahempi, että se voi kivenkovaan tosiaan väittää ihan täysin valheellisia asioita ja yrittää saada loppukäyttäjän uskomaan se.

Minusta tuo tekoäly on oikeastaan parhaillaan kun on vaikkapa kymmeniä tai satoja sivuja jotain materiaalia X esim. raportteja ja yrittää niistä saada jotain tiivistettyä dataa ja vielä itse tsekkaa tuota tiivistelmää sitten lähdemateriaaliin. Eli käyttää sitä tiivistelmää tavallaan itselle referenssinä/sisältöluettelona. Siinä tekoäly on aika pirun hyvä pääsääntöisesti. Miksi käyttää referenssinä? Koska itse kokeillut tätä ja se liittyi ulkomaiseen materiaaliin ja onnettomuuksiin. Tiivistelmässä oli viittaus yhteen tapaustyyppiin mitä en ainakaan nopeasti löytänyt isosta datamäärästä lainkaan, vaikka hyvin nopeasti kävin materiaalin pari kertaa läpi. Harmitttaa että tuo prompti on hukassa ja itsellä oli kiire, koska olisi mielenkiintoista tietää, että oliko siellä jossain kuitenkin haudattuna erikoisempi ja ainakin varmasti hyvin vähän viitattu tieto.

[ilkant]

Venäjän presidentti Putin totesi vuosia ennen Ukrainan erikoisoperaatiota, että se kenellä on paras tekoäly, voittaa. Onko Venäjällä käytetty tekoälyä Ukrainan hyökkäystä suunniteltaessa?

Lyhennetyssä muodossa: kyllä, Venäjä on kehittänyt ja ottanut käyttöön tekoälyä sodankäynnissä ja joissakin osa‑alueissa myös Ukrainan hyökkäyksessä, mutta se ei ole ollut “täydellinen, itsenäisesti suunnitteleva tekoälystrategia” sellaisessa laajuudessa kuin usein mediassa kaiutetaan tai kuten Putinin legendaarisesti lainattu ajatus “se, kenellä on paras tekoäly, voittaa” saattaa antaa ymmärtää.

🧠 1. Tekoälyn rooli ennen ja jälkeen hyökkäyksen

Putin ja Venäjän johto ovat korostaneet tekoälyn merkitystä ja halunneet integroida sitä asevoimiin jo vuosien ajan. Tällaisia keskusteluja sodan edellä käytiin esimerkiksi Venäjän puolustusministeriössä ja tiedustelupiireissä pitkään, ja siihen liittyviä suunnitelmia ja strategisia linjauksia on julkaistu Venäjän omissa sotilasjulkaisuissa sekä foorumeilla.

Kuitenkin ennen 24.2.2022 hyökkäystä tekoälyä ei ole julkisesti vahvistetusti käytetty hyökkäyksen suunnitteluvaiheessa itsenäisesti tai johtavana suunnittelutyökaluna — eli ei sellaista kokonaisvaltaista AI‑suunnitteluohjelmaa, joka olisi korvannut inhimillistä strategia‑ tai taktista suunnittelua. Käytössä oli pikemminkin pitkän ajan kehitykseen liittyvää tutkimusta ja prototyyppejä.

📡 2. Tekoäly käytössä sotatoimissa

Nykyisessä sodassa tekoälyä ja automaatiota kyllä käytetään operatiivisilla tasoilla, mutta suhteellisesti verrattuna länsimaiden käyttöön ja propagandakuviin sen rooli on rajallinen:

Ilmatorjunta‑ ja automaattiset puolustusjärjestelmät: Joissakin povatun mukaan Venäjän S‑350 tai Pantsir‑järjestelmissä on toiminut automaattisia tunnistus‑ ja ohjausalgoritmeja, jotka tekevät tiettyjä tehtäviä ilman jatkuvaa ihmiskomentoa.

Dronet ja autonomiset järjestelmät: Venäjä on kehittänyt droneja ja robottijärjestelmiä, joihin on lisätty tekoälyn kaltaisia kuvantunnistus‑ ja navigointikomponentteja. Nämä eivät kuitenkaan ole täysin itsenäisiä päätöksentekojärjestelmiä, vaan ne toimivat usein rajoitetuissa tilanteissa tai ihmisen valvonnan alaisina.

Tiedustelu ja data‑analyysi: Tekoälyä hyödynnetään sotatoimien tiedustelussa ja datan analysoinnissa, mutta suurelta osin tämä liittyy enemmän perinteiseen signaalien ja kuvamateriaalin analysointiin kuin “strategian automatisointiin”.

⚖️ 3. Käyttö ei ole “rautaisen AI‑strategian” kaltainen

Vaikka Venäjä on pitkään puhunut tekoälyn vallankumouksellisesta merkityksestä, nykyiset toimet ovat varsin samankaltaisia kuin useimmissa suurissa armeijoissa: tekoäly on apuväline, ei itsenäinen sotapäällikkö.

Todennäköisesti Venäjän tekoälyjärjestelmät ovat kehittyneet sodan aikana nopeammin kuin ennen — sillä sodan realiteetit ovat pakottaneet kehitystä — mutta ei ole luotettavaa näyttöä siitä, että hyökkäyksen alkuvaiheen suunnittelu sinänsä olisi tapahtunut tekoälyn avulla tai sen “johtamana”. Tämä koskee erityisesti strategista suunnittelua, kuten laajamittaista hyökkäyssuunnitelman mallintamista tai päätöksentekoa konepohjaisesti.

🧠 4. Vertailu Ukrainan tekoälyn käyttöön

Sekä Ukraina että Venäjä ovat käyttäneet tekoälyä ja automaattisia järjestelmiä taistelussa eri tavoin (esimerkiksi droneissa), mutta ei voida sanoa, että toinen osapuoli olisi selvästi “automaattisen tekoälyn avulla suunnitellut” koko sodan operaation.

Yhteenvetona: kyllä — tekoälyä on integroitu Venäjän sotilasjärjestelmiin ja sitä on käytetty taisteluteknologioissa ja analytiikassa, mutta ei ole luotettavaa näyttöä siitä, että tekoäly olisi ollut keskeinen tekijä hyökkäyksen alkuperäisen sotasuunnitelman laatimisessa tai että se olisi itsenäisesti “päätöksentekijänä” ohjannut operaatiota.

[pkill]

Hyviä vastauksia saa yleensä, mutta tarkkana saa kyllä olla. Meinasin autoon vanteet tilata grokin antamien kokojen perusteella. Oli jo vanteet kassalla, kun tuli mieleen varmistaa keskireiän koko ja sehän oli jotain aivan muuta, kuin mitä grok väitti. Toisen kerran kysyin tietoja auton moottoriin liittyen ja se väen vängällä antoi aivan toisen moottorin tietoja vaikka sille miten yritin vastaan väittää, että sen ohjeet on aivan eri moottoriin.

[qwertyy]

Hyviä vastauksia saa yleensä, mutta tarkkana saa kyllä olla. Meinasin autoon vanteet tilata grokin antamien kokojen perusteella. Oli jo vanteet kassalla, kun tuli mieleen varmistaa keskireiän koko ja sehän oli jotain aivan muuta, kuin mitä grok väitti. Toisen kerran kysyin tietoja auton moottoriin liittyen ja se väen vängällä antoi aivan toisen moottorin tietoja vaikka sille miten yritin vastaan väittää, että sen ohjeet on aivan eri moottoriin.

Ei kannata kysyä mitään teknistä/mekaanista miltään tekoälyltä 

[Illu]

Hankalin tilanne muodostuu, kun tekoälyltä haetaan jotain ja se sitten julkaistaan totuutena, jota seuraava tekoäly referoi jne. Kun käännöstekstitkin ovat jo melko sujuvia, siirtyy jonkun fanaatikon keksimä teksti vaikkapa ylioppilaskirjoitusten vastauksen juureksi, oppikirjasta viis veisaten. Joissakin maissa on paljon henkilöitä, jotka ovat alkaneet nimittää itseään alan väitelleiksi tohtoreiksi, eikä sitä kukaan toisaalla epäile. Esimerkiksi terveysalalla huuhaa menee usein läpi.

En juuri käytä tekoälyä, varsinkaan tehoversioita. Googlen perushaussa tulee aluksi jonkinlainen kooste ehdotukseksi. Kun olen unohtavainen, niin sitä seuraten olen taas muistanut unohtamiani asioita, "ai juu, niin se olikin".

[AimoE]

Jep. Lisäksi AI on taivas niille, jotka tahallaan haluavat vääristellä asioita. He pääsevät levittämään juoniaan tehokkaammin kuin koskaan ennen. Eikä vain levittämään. Tekoäly ja some-alustojen monopolisoituminen tarjoaa myöskin mahdollisuuden tehostaa aitojen lähteiden sensuuria.