Tekoälyn uusi vaihe

[Snufkin]

Eikä kyse ole vain kykemisestä, vaan myös siitä, että liian moni laite käyttää samoja protokollia ihan vaan helppouden vuoksi. Jo http:n korvaaminen jollain omalla protokollalla nostaisi tietoturvaa huomattavasti, koska se torppaisi tiedon helpon luettavuuden.

Mutta maailma menee aika paljon naivius ja helppous edellä, joten tuskin tämä tulee juurikaan muuttumaan.

[AimoE]

Jo http:n korvaaminen jollain omalla protokollalla nostaisi tietoturvaa huomattavasti, koska se torppaisi tiedon helpon luettavuuden.

Jo http:n korvaaminen https:llä nostaa turvatasoa. Siihen voi lisätä dedikoidun salauksen ilman että tarvii mitään uusia kättelyitä keksiä.

[Snufkin]

Jo http:n korvaaminen https:llä nostaa turvatasoa. Siihen voi lisätä dedikoidun salauksen ilman että tarvii mitään uusia kättelyitä keksiä.

No https toimii http:n päällä, mutta tuo ei ollut pointti. Pointti oli se, että kun käytetään yleisiä protokollia, niin tieto on ikään kuin valmiiksi varastettavissa muodossa. Jos järjestelmästä sitten löytyy haavoittuvuus, niin tieto on helppo varastaa.

Tilannetta voi verrata vaikkapa maanteihin. Niin kauan kuin kiinteistölle on olemassa tie, sinne on helppo murtautua. Sitten kun tie puuttuu ja varkaan pitää kävellä, vaikeutuu homma huomattavasti, koska "protokolla" ei olekaan enää sopiva.

[AimoE]

Pointti on se, että "Security by obscurity" -menetelmät on jo moneen kertaan murrettu. Salauksen luotettavuus päinvastoin paranee siitä, että salausalgoritmit ja -kättelyt ovat yleisesti tiedossa, jolloin niitä voidaan jatkuvasti katselmoida, testata ja parannella.

[Snufkin]

Pointti on se, että "Security by obscurity" -menetelmät on jo moneen kertaan murrettu. Salauksen luotettavuus päinvastoin paranee siitä, että salausalgoritmit ja -kättelyt ovat yleisesti tiedossa, jolloin niitä voidaan jatkuvasti katselmoida, testata ja parannella.

Et vieläkään hahmota ongelman ydintä. Kun kaikki liikenne on samalla avoimella protokollalla, niin se salauksen murtuminen vaikkapa nollapäiväbugin tai tietoisen takaportin takia aiheuttaa koko systeemin romahtamisen. Ja tekoälyn kautta tuollainen löydetty bugi levinnee hetkessä kaikkialle.

Mikään ei estäisi kehittämästä protokollaa, jossa olisi enemmänkin lukkoja. Voisi olla sekä salainen protokolla että sille vahva salaus. Tällainen lisäisi merkittävästi kriittisen infran turvallisuutta. Ja vielä parempi olisi, kun kriittinen infra olisi ihan fyysisesti omassa verkossaan.

[AimoE]

Perimmäinen ongelma on alustajättiläisten liiketoimintamalli, joka aluksi perustui mainostuloihin ja sitten myöskin alustan keräämän datan jalostusarvoon ja sen jalostettavuuteen ja jalostusasteen pohjalta määräytyvään myyntiarvoon.

Internet on luotu sillä ajatuksella, että tiedon täytyy olla kaikkien saatavilla. Niinpä meni pitkään ennen kuin alettiin kiinnittää huomiota tekijänoikeuksiin. Tekijänoikeuksista voidaan kuitenkin keskustella vain silloin, kun omistajuus tunnistetaan – kun data on arkaluontoista tai korkealle jalostettua – mutta internetistä on tähänkin asti louhittu, koostettu ja jalostettu dataa välittämättä siitä, voidaanko omistajuus osoittaa.

Tekoäly nostaa sille syötettävän datan jalostusarvoa ja saattaa samalla nostaa tuloksen myyntiarvoa. Suurin osa tekoälyllä nettiin tuupatusta tavarasta on toki arvotonta tuubaa, eikä sen haitallisuus riipu jalostus- tai myyntiarvosta. Alustajättien hinku tarjota kaikille mahdollisuus tuuban tuuppaamiseen perustuukin siihen odotukseen, että tekoälypalveluiden markkinat alkavat tuottaa satumaisia voittoja. Tämä on se liiketoimintamalli, johon yhteiskunnat joutuvat nyt ottamaan kantaa.

[Snufkin]

Tekijänoikeudet ovat vain yksi puoli asiaa. Ongelmana on myös se, että koko yhteiskunta alkaa olevaan hyvin riippuvainen digitaalisesta verkosta, jota ei ole koskaan luotu tällaista varten. Kaikki tietoturva on kehitetty jälkikäteen tårta på tårta -systeemillä, eli rakentamalla huonon perustan päälle mitä ihmeellisimpiä datahimmeleitä.

Ja juuri tähän pitäisi puuttua. Kriittiselle infralle ja yhteiskunnan tärkeille palveluilla pitäisi rakentaa kokonaan netistä erillinen verkko/protokolla. Jos vaikka piuhat ovat samat, niin toiminnan pitäisi olla kokonaan eriytetty ja erityinen huomio laitettu systeemin robustisuuteen ja tietoturvaan. Hieman vastaavasti kuin armeija rakentaa omia verkkojaan siviilinetin ulkopuolelle.

Em. hanke lienee jo mahdoton toteuttaa ennen kuin tämä himmeli oikeasti romahtaa. Tekoäly on erittäin hyvä kandidaatti sen romauttajaksi. 

[AimoE]

Haittojen torjuntaan keskittyminen on taistelua tuulimyllyjä vastaan. Myllyjä tarvitaan.

Teitä tarvitaan. Kulkuneuvoja tarvitaan. Liikenteen turvallisuutta ja sujuvuutta on parannettu keräämällä ja analysoimalla tietoa liikenteestä ja liikenneonnettomuuksista, ja laatimalla tutkitun tiedon pohjalta sääntöjä, joita tienrakennuksessa, kulkuneuvojen tuotannossa ja liikenteessä liikkuessa täytyy noudattaa. Kulkuyhteyksiä on avattu verovaroin sinne, missä kaupallinen liikenne ei kannata, mutta kunnan ei silti tarvitse omistaa busseja, joilla lapset kuljetetaan kouluun, eikä kunnan tarvitse itse tuottaa busseja ja koulutakseja.

Tietoliikenteessä on sama juttu. Väylät ja joukkoliikenne ovat yhteisessä käytössä, ja niiden turvallisuus  ja ylipäätään arkkitehtuuri vaativat yhteiskunnan sääntelyä. Sääntelyssä voidaan mennä pitkällekin. Venäjällä yritetään kahlita tietoverkon käyttöä. Kiinassa valvotaan mitä kansalaiset tekevät tietoverkossa. Valvonta vaatii paljon ihmistyötä – onkohan Kiinan ehtinyt tekoälykisassa pitkälle juuri siksi että valvonta on niin työlästä?

Sääntelyllä voidaan suojata yksilöitä tai vallanpitäjiä tai voitontavoittelua, mutta täysin iman sääntöjä ei pärjätä missään.

[Snufkin]

Säännöt eivät auta, kun iso osa toimijoista (netissä) ei niistä piittaa. Ei kannata olla naivi, vaan kehittää teknologiaa niin, ettei sitä voi torpedoida.

Tekoäly on hieman kuin joulupukki, joka yhden aattoillan aikan kiertää kaikki Suomen kodit. Ei tosin tuo lahjoja, vaan vie niitä.

[JaniAlander]

Pointti on se, että "Security by obscurity" -menetelmät on jo moneen kertaan murrettu. Salauksen luotettavuus päinvastoin paranee siitä, että salausalgoritmit ja -kättelyt ovat yleisesti tiedossa, jolloin niitä voidaan jatkuvasti katselmoida, testata ja parannella.

Et vieläkään hahmota ongelman ydintä. Kun kaikki liikenne on samalla avoimella protokollalla, niin se salauksen murtuminen vaikkapa nollapäiväbugin tai tietoisen takaportin takia aiheuttaa koko systeemin romahtamisen. Ja tekoälyn kautta tuollainen löydetty bugi levinnee hetkessä kaikkialle.

Mikään ei estäisi kehittämästä protokollaa, jossa olisi enemmänkin lukkoja. Voisi olla sekä salainen protokolla että sille vahva salaus. Tällainen lisäisi merkittävästi kriittisen infran turvallisuutta. Ja vielä parempi olisi, kun kriittinen infra olisi ihan fyysisesti omassa verkossaan.

Siinä salaisessa protokollassa voi olla myös salaisia vikoja, tai ihan tarkoituksella salainen takaportti. Tuo turvallisuusmalli ei tosiaan toimi ihan halutulla tavalla.

[Snufkin]

Siinä salaisessa protokollassa voi olla myös salaisia vikoja, tai ihan tarkoituksella salainen takaportti. Tuo turvallisuusmalli ei tosiaan toimi ihan halutulla tavalla.

No toki näin, mutta jos ajatellaan että vaikka Suomen valtio kehittäisi oman protokollan, joka olisi salainen ja sisältäisi avoimen puolen salauksen, niin sellaista voisi käyttää kriittisen infran toimintoihin. Avoin salaus takaa, että salaus on todennetusti hyvää ja salattu protokolla tarkoitaa, että sitä on vaikea murtaa. Eli vaikka joku onnistuisi saamaan protokollan rakenteen tietoonsa, hänellä olisi vielä luotettava salaus murretavanaan.

Tuossa siis kaksi lukkoa nykyisen yhden sijaan.

[Jere Sumell]

Sitä ei valitettavasti voi rajata Suomeen, olemme Euroopan Unionin jäsen ja iso osa säätelystä tulee sieltä, plus boonuksena vaikka emme olisikaan emme voisi muuttaa maata jonkin sortin ulkoilmamuseoksi.

Juu, Euroopan Unionin päätöksenteko on kiinteä osa myös Suomen kansallisisia lainsäädäntöprosesseja, eurooppalaisia ollaan. Ja sitten sotilaat kokevat myös laajemmin itsensä osaksi puolustusliitto NATO:a nykyisin vastavuoroisesti yhtenä osana sitä avun tarpeen annon/saamisen suhteen jos tosipaikka tulee, ja tulevat sukupolvet kasvavat ajatukseen, että Suomi on aina tai koko heidän elinikänsä ajan kuulunut puolustusliittoon ja se on luonteva osa varusmiespalvelun suorittavien osalta mielessä. Siellä on lisäksi sitten artikloita ja sopimuksia, joissa Suomi on mukana itäportin vartijana täällä Pohjoisessa itänurkassa.

Tuntui ainakin johonkin aikaa, että nuo isot teknojätit lähinnä nyt läntisessä maailmassa Jenkeistä toimivat mielivaltaisesti ja sitten kun tulee EU-tasolla jokin todella iso uhkasakko ennakkotapaus-oikeusprosessin tuomiona, muuttavat sitten vasta toimintaansa. Liikeyrityksinä laskevat, että kannattaa sakonkin uhalla toimia, ja sitten maksavat maallikkokansalaisen näkökulmasta tähtitieteelliset sakot, joka lienee jokin prosenttiosuus liikevaihdosta,

On pitkä prosessi EU:lla päästä irti noista rapakon takaa sijaitsevista teknojäteistä omavaraikseksi palveluiden tuottajana, mitä Euroopassa ole yhtään prosessoritehdastakaan taida olla.

[JaniAlander]

On pitkä prosessi EU:lla päästä irti noista rapakon takaa sijaitsevista teknojäteistä omavaraikseksi palveluiden tuottajana, mitä Euroopassa ole yhtään prosessoritehdastakaan taida olla.

Ja siihen tilaan ei ainakaan päästä ylitiukalla säädellään etukäteen tietämättä mitä oikeastaan olisi luvassa meiningillä.

[JaniAlander]

No toki näin, mutta jos ajatellaan että vaikka Suomen valtio kehittäisi oman protokollan, joka olisi salainen ja sisältäisi avoimen puolen salauksen, niin sellaista voisi käyttää kriittisen infran toimintoihin. Avoin salaus takaa, että salaus on todennetusti hyvää ja salattu protokolla tarkoitaa, että sitä on vaikea murtaa. Eli vaikka joku onnistuisi saamaan protokollan rakenteen tietoonsa, hänellä olisi vielä luotettava salaus murretavanaan.

Tuossa siis kaksi lukkoa nykyisen yhden sijaan.

Siinä on silti "security by obscurity" aines mukana, ja se ei nyt vaan oikein kummasti auta asioita.

Tuosta oli jo hyvin ennen vanhaan aineksia, mekaanisten lukkojen tekemiseen oli pari lähestymistapaa, toinen niistä oli salainen konstruktio, ts. lukon sisuskalut pyrittiin hautaamaan kaikenlaisen fyysisen esteen taakse, jotta ei voisi nähdä helposti miten se pelaa. Ja yksityiskohdat olivat salaisia.  Toinen sitten oli avoin, vaikkapa abloy lukon toimintatapa ei ollut mitenkään salattu juttu. Mutta no lukitsemis"algoritmi" oli sikäli hyvä että se tarjosi kohtalaisen fyysisen turvallisuuden.

[Efraiminpoika]

Olemme täällä vielä viikon etumatkalla muista leijonaa pakenevista  vai miten tätä Ylen uutista pitäisi tulkita https://yle.fi/a/74-20221212

[Snufkin]

Siinä on silti "security by obscurity" aines mukana, ja se ei nyt vaan oikein kummasti auta asioita.

Mielestäni auttaa. Se, että hyvin salattu yhteys on myös suojassa omintakeisella protokollalla vähentää merkittävästi hyökkäysyrityksiä. Hieman samaan tapaan kuin suomen kieli on suojellut meitä huijauksilta hyvin pitkään (nyt tilanne jo muuttumassa).

Fyysisessa maailmassa asiaa voisi verrata mökkiin, joka on saaressa. Se ei ole niin altis murroille, koska vaatii murtomiehiltä veneen, normaali protokolla on pakettiauto. 

[AimoE]

Hieman samaan tapaan kuin suomen kieli on suojellut meitä huijauksilta hyvin pitkään (nyt tilanne jo muuttumassa).

Luulet vaan. Ei se ole meitä suojannut, me ei vaan huomata kaikkea.

Hiljattain tarvitsin apukäsiä kotona tehtävään juttuun, ja etsin kotitalkkarityyppisiä sivuja. Ihan sujuvalla suomen kielellä. Meinasin ottaa yhteyttä yhteen, mutta tarkistin ensin sivuston maineen. Löysin varoituksen, että se houkuttelee työnhakijoita ja sitoo heidät johonkin mistä ei saa tuloja, ja josta ei pääse irti millään. Netissä on vaikka mitä huijauksia ihan ilman tekoälyäkin.

Edit - jatkoa:

En olisi yllättynyt, jos kävisi ilmi, että Suomessakin voi löytää ruokapaikan, joka maksaa siitä että silloin tällöin kirjoittaa arvosteluita ja suosituksia kyseisestä paikasta.
Eräs englantilainen, joka teki tällaisia arvosteluja, jäi miettimään miten moni arvostelu oikeasti on aito – ja päätti kokeilla miten pitkälle suosittelualustan avulla voi päästä. Hän oli perustavinaan ravintolan, jolla oli uusi hieno konsepti, ja sai sen rekisteröidyksi TripAdvisor-alustalla. Kun kiinnostuneita alkoi ilmaantua, hän vastasi puhelimessa että kaikki pöydät on varattu. Se nosti paikan suosion tappiin, vaikka koko ravintolaa ei ollut olemassakaan.
Koko tarina on täällä: https://www.vice.com/en/article/i-made-my-shed-the-top-rated-restaurant-on-tripadvisor/

[Snufkin]

Hieman samaan tapaan kuin suomen kieli on suojellut meitä huijauksilta hyvin pitkään (nyt tilanne jo muuttumassa).

Luulet vaan. Ei se ole meitä suojannut, me ei vaan huomata kaikkea.

On se suojannut, kun suurin osa huijauksista on ollut englanniksi.

Samoin meitä suojaa Linux sitäkin kautta, että suurin osa haittaohjelmista kirjoitetaan Windowsille.

Oma (salainen) protokolla toimisi ihan samoin. Se vähentäisi altistumista kaikelle epäterveelle ja toimisi hyvänä lisäsuojana. Tästä syystä armeijankin käyttämät menetelmät ovat salaisia eikä läheskään kaikkia salausalgoritmeja tai -menetelmiä julkisteta.

On siis eri asia luottaa vain menetelmän salaisuuteen kuin käyttää sitä lisäturvana.

[elohope]

Nyt aletaan huomata, että on älyvapaata tarjota ilmaisia tai halpoja tekoälypalveluja. Alla otteita keskustelusta.

Lähde: keskustelu artikkelista
https://arstechnica.com/ai/2026/04/github-will-start-charging-copilot-users-based-on-their-actual-ai-usage/?comments-page=1#comments


I can't imagine that cliff is very far off if deep pocket entities like Microsoft are already reaching for the brakes to reign in ballooning costs. It answers why Anthropic was so desperate for "investment" in the past week or so

Yeah, I think it's a reasonably good zeroth-order assumption that under the hood, all of these things are mostly interchangeable from an internal accounting perspective. The technology is the ~same and the hardware is the ~same. It's unlikely to be the case that one supergiant organization is bleeding heavily and the other is doing gangbusters profits.

-----
Remember when people argued 'AI is only a money pit now because of all the training, but it'll be profitable on inference?'

Turns out it's the opposite. AI has a massive problem when it comes to compute use, especially with more bloated models like Claude.

It's to the point where in some cases the AI is costing more than the workers they were intended to replace.

Cost of compute is becoming an existential problem, and AI companies are getting stuck in a tough spot where their prices are too subsidized to be profitable while also being so expensive that people are already starting to look at alternatives.

------
Are these tools actually good enough to justify the costs once they are no longer being subsidized by investor money? It sounds like this could also be just the first bump as this seems to just be looking to cover the inferencing costs of just running the model and not necessarily covering the training costs. Those can be massive but could be pretty low if spread across enough usage but they also seem to be continually chasing better models which means any given model doesn't get used for as much inferencing before being replaced.

I also think the potential opacity and confusion around billing will drive some people/business away. If Joe coder can suddenly hit you with a bill for hundreds or thousands of dollars that may push some businesses away from the idea. Most places I've been have had tight controls on who can spend company money and how much. Throwing tools to people that let them create bills for $$$ without oversite seems contradictory to that. Maybe GitHub has some settings to manage that with caps or what ever else but still a consideration. Even $100 per person times hundreds or thousands of devs adds up to real money pretty quickly.

-------
Casual User (Personal Use): 5,000 – 15,000 tokens per day
Asking 3–5 brief questions, requesting a summary of a short text, or drafting an email.

Moderate User (Office / Administration): 20,000 – 100,000 tokens per day
Equivalent to: Reviewing and summarising reports, engaging in multiple extended conversations where context (history) accumulates and generating drafts for articles or documents.

Power User (without coding): 100,000 – 500,000+ tokens per day
Equivalent to: Uploading large PDF files (100+ pages) into models and querying them. This consumes large amounts of tokens because the entire document must be re-read for every follow-up question.

You have this snowball effect where the system has to read the entire conversation for every new question or request. If you have a chat with 20 exchanges back and fort, you can easily consume 10,000 tokens.

------
We’ve been warning that the other shoe would drop soon, regarding pricing, but no one listened. And now we’re starting to see their pricing models shift to funny money tokens, which have the added “benefit” or obscuring costs and making them incredibly hard to futurecast budgets for. I’m sure that part of this tokenization plan is to do exactly that, abstract the costs in a way that makes it difficult to mentally understand usager rates vs token costs.

This is especially true since it's not 1 prompt = 1 token, you have no way to know beforehand or control how many "tokens" are going to be consumed to process your prompt/request.

It's a complete black box, and if the token becomes the billable unit then the companies begin to lose the incentive to reduce token consumption and make the models more efficient because that would mean users need fewer tokens and then will spend less.

------
I got a feeling this is going to put a damper on AI usage way more than just the economics of cost and utility work out, simply because users are still charged for when the AI gets it wrong.

All those hallucinations and AI-generated errors are going to be incredibly frustrating when you pay for wrong answers and have to pay extra for the AI to try to correct them. Humans (when they're not deceiving you) are at least making progress towards working code when they get things wrong, and usually have a good upper bound of how much more time and money it'll cost to see it through. You won't get that with AI.

---------

Anyone remember the Asimov story "The Feeling of Power"? Someday, someone will discover that people can learn to do the tasks that we became dependent on computers to do for us, and it will revolutionize the world.