Tekoälyn uusi vaihe

[elohope]

Ohessa pari tuoretta uutista:

• Anthropicin uusi tuote, Mythos on osoittautunut hankalaksi hallita. Se pystyy löytämään haavoittuvuuksia vakiintuneista käyttöjärjestelmistä ja suunnittelemaan monimutkaisia hyökkäyksiä. Mallin julkistuspäivänä USA:n valtiovarainministeri ja keskuspankin pääjohtaja kutsuivat suurimpien pankkien johtajat erityiseen tilaisuuteen, jossa varoitettiin tällaisten aina vain tehokaammpien ja kekseliäämpien tekoiälyjen pankeille aiheuttamista riskeistä
• Microsoftin tekoälyjohtajan mukaan ei ole nähtävissä mitään mikä rajoittaisi tekoälyn kehitystä lähivuosina. Monet suorituskyvyn osa-alueet ovat moninkertaistuneet teholtaan viime aikoina. Pieneksi kysymykseksi jää energian saatavuus ja etenkin sähkön hinnannousu, joka voi ärsyttää bioälyä käyttävää kansaa.

[AimoE]

Koska Anthropic ei ole suostunut talutusnuoraan, hallinnolla on tarve mustamaalata sitä, esittää se jotenkin vaarallaisemmaksi kuin ne tekoälyfirmat, jotka ovat hyvää kamua hallinnon kanssa.

[Snufkin]

Uskoisin, että verkosta irti olevien tietokoneiden, käteisen rahan käyttö ja muu "idioottivarma" toiminta tulee taas lisääntymään. Tämä tekoäly aiheuttaa jo melkoisen riskin koko tietoyhteiskunnalle.

[JaniAlander]

Ohessa pari tuoretta uutista:



Microsoftin tekoälyjohtajan mukaan ei ole nähtävissä mitään mikä rajoittaisi tekoälyn kehitystä lähivuosina. Monet suorituskyvyn osa-alueet ovat moninkertaistuneet teholtaan viime aikoina. Pieneksi kysymykseksi jää energian saatavuus ja etenkin sähkön hinnannousu, joka voi ärsyttää bioälyä käyttävää kansaa.[/li][/list]

Kuulostaa kovasti nk. pöhinältä. Tuossa eilen törmäsin juttuun yksistään OpenAI:n osalta. Joka vuosineljännes tulee 12 MILJARDIA dollaria tappiota. Eikä ole näkyvissä suunnan kääntymistä. Ja tuo on vain yksi toimija muiden joukossa.

Sitten tosiaan muita kysymyksiä on hardwaren saatavuus, jäähdytysveden kulutus, ja se energian saatavuus ei ole mikään pikkuasia. Kun sanotaan että joo gigawatin konesali, se nielee kokonaisen ison ydinvoimalan tuotannon tuosta vaan. Ei sellaista generointikykyä yhtäkkiä jostain temmata. Ja tuollainen vaatii vielä tasaista voimaa, ts. tuulipropellit saa unohtaa.

[SuperOscar]

Kuulostaa kovasti nk. pöhinältä.

Nimenomaan sitä se on.

Mitään ”tekoälyähän” ei oikeasti vielä ole edes olemassa – on vain koneoppivia kielimalleja. Niitä kukaan ei oikeastaan edes halua, paitsi ne, jotka ovat sijoittaneet ”tekoäly”-yritysten osakkeisiin. Siksi niitä tungetaan ihmisille kuin käärmettä pyssyn suuhun.

[Efraiminpoika]

Ohessa pari tuoretta uutista:

• Anthropicin uusi tuote, Mythos on osoittautunut hankalaksi hallita. Se pystyy löytämään haavoittuvuuksia vakiintuneista käyttöjärjestelmistä ja suunnittelemaan monimutkaisia hyökkäyksiä. Mallin julkistuspäivänä USA:n valtiovarainministeri ja keskuspankin pääjohtaja kutsuivat suurimpien pankkien johtajat erityiseen tilaisuuteen, jossa varoitettiin tällaisten aina vain tehokaammpien ja kekseliäämpien tekoiälyjen pankeille aiheuttamista riskeistä

Tähän liittyen https://www.iltalehti.fi/digiuutiset/a/a0c88274-cfc4-4d85-8915-a1bb08aa99eb

Jos Mythos pystyy tähän niin miten sen ja vastaavien muiden leviäminen myös "pahoille pojille" voitaisiin muka estää...

[AimoE]

Oikeastaan tämä on hyvä asia, koska mollaamalla yhtä kilpailijaa hallinto nostaa kissan pöydälle asiassa, joka on teknologiaylistyksen huumassa jäänyt jalkoihin. Se asia siis, ei kissa.

[Snufkin]

Mitään ”tekoälyähän” ei oikeasti vielä ole edes olemassa – on vain koneoppivia kielimalleja.

Toisaalta ihmisäly on enimmäkseen vastaavaa oppivaa neuroverkkoa.

Mutta ongelman ydin on kai siinä, että jos joku (ihminen) on laittanut nettiin (opetusaineistoon) jotain haitallista, tämä koneäly osaa sen sieltä löytää ja ottaa käyttöön. Tilanne on hieman vastaava, kun terroristi oppii rakentamaan pommeja. Ei siinäkään se äly ole ongelma, vaan pääsy tiedon äärelle.

[SuperOscar]

Toisaalta ihmisäly on enimmäkseen vastaavaa oppivaa neuroverkkoa.

Ja toisaalta ihminen on vain pieneltä osin ihmisälyä.

[Snufkin]

Jos Mythos pystyy tähän niin miten sen ja vastaavien muiden leviäminen myös "pahoille pojille" voitaisiin muka estää...

Eipä sitä voidakaan. Siksi monissa asioissa pitäisi vetää se töpseli irti netistä ja siirtyä johonkin muuhun tapaan vaihtaa informaatiota. Tulevaisuudessa yksi haitallinen nollapäivähaavoittuvuus voi levitä huomattavasti tekoälyn kautta ennen kuin siihen kyetään reagoimaan.

Toisaalta ihminen on niin laiska, että tuskin mikään muuttuu, ennen kuin se paska osuu ekan kerran kunnolla tuulettimeen.