AI en onze toekomst

[boran_blok]

Vergeet ook niet euh alles wat er nu gaande is in de wereld. Eerlijkgezegd moest ik nu aan kinderen beginnen, neen, je brengt geen kind in een gedoemde wereld zoals deze.

[Dizzy]

Geboortecijfers namen al af omdat er ondertussen mensen genoeg zijn en steeds meer mensen dat ook beseffen. Door hogere levensstandaard is het ook minder nodig om kinderen als backup te gebruiken voor tegenslagen. Ook kindersterfte is afgenomen net als sterven in kraambed. De hogere productiviteit en de grenzen van de planeet en leefomgeving zijn ook aansporingen om minder kinderen te hebben. Daar komen dan de technologische factoren bij. Minder jobs door AI zal ook zorgen dat er minder geboortes zijn want wie neemt veel kinderen als er weinig toekomst is.

Minder menselijk contact zie ik niet direct als een grote reden, er zal altijd contact zijn en ook online contact kan helpen om een partner te vinden, zelfs makkelijker dan vroeger. Het aantal Tinderdates die ik tegen kom op restaurant zegt genoeg

Wat wel een teken aan de wand is dat mensen AI gebruiken als raadgever over relaties en waarom en hoe ze af te breken. Sommigen hebben zelfs een relatie met hun chatbot of dat denken ze toch. Er zijn ook veel meer lossere relaties, minder trouwen en vaste relaties zorgt ook voor minder kinderen want een kind als alleenstaande opvoeden betekent een aanslag op de levensstandaard.

[on4bam]

No comment

https://www.the-independent.com/tech/fo ... 03787.html

[FredericV]

Daar komen dan de technologische factoren bij.

Feit is wel dat de fertiliteit daalt:



Het zal dus een combinatie zijn van factoren.

Eerlijkgezegd moest ik nu aan kinderen beginnen, neen, je brengt geen kind in een gedoemde wereld zoals deze.

Ik herken deze keuze.

En het gaat steeds moeilijker worden om nog kinderen op de wereld te zetten.

[FredericV]

Ik had reeds een sterk vermoeden dat users gestuurd kunnen worden door een specifieke bias in AI modellen, en hier wordt het bevestigd.
Dit is uiteraard hetzelfde met het mainstream nieuws en alle social media algoritmes: iemand anders of een computer bepaalt wat jij te zien krijgt, waardoor ons wereldbeeld en onze eigen bias verandert.

[Dizzy]

Het is zelfs erger. (asociale) media denken niet in uw plaats, bij AI vertrouwen mensen op de resultaten of beschouwen ze het als DE waarheid want AI weet zogezegd alles. Niemand weet echter welke ideologie of beweegredenen achter deze black box zit. Mensen kiezen steevast voor gemak en waarom nadenken als je een ander kan napraten? Dat past ook in het feit dat de meerderheid volgers zijn. Het aantal mensen dat creatief en zelf dingen bedenkt is beperkt. AI valt nu net die creativiteit aan door de ideeën, van creatievelingen te stelen en te herverpakken. De jobs verdwijnen en eenheidsworst vindt steeds meer ingang. Bekijk de invloed van pakweg Canva, overal zie je dezelfde "ontwerpen" terugkeren.

Gelukkig begint het bij bedrijven op te vallen dat AI alles behalve gratis is en dat iemand aannemen soms goedkoper is dan de groeiende rekeningen voor tokens.

[FredericV]

Sinds vandaag zie ik op FB bij nieuwe posts, de verplichting om een AI label toe te voegen voor AI generated content:

Er is echter nog steeds geen manier om AI slop te rapporteren. Vanaf 1 augustus is AI labeling verplicht door de AI act.
Maar of ze dit ook gaan enforcen, of double checken ....

[boran_blok]

Nog een intressant artikel/paper die ik tegengekomen ben:
https://role-confusion.github.io/

Het gaat over hoe de AI modellen bepalen welk deel van de instructie van waar komt en hoe verwarring (al dan niet bewust veroorzaakt) ontstaat

[FredericV]

Het gaat over hoe de AI modellen bepalen welk deel van de instructie van waar komt en hoe verwarring (al dan niet bewust veroorzaakt) ontstaat

De attacks met die tags lijken wel op het editeren van HTML, waarbij de server side de state niet bijhield, met alle gevolgen vandien.
De signalling is dus in-band?

[boran_blok]

Yep, lees het goed door, howel dat er uit ziet als gesloten xml/html tags zijn dat maar suggesties, de modellen letten op toon en manier van de structuur van de tekst om te bepalen wat wat is. user, tool, gedachtengang, etc.

naar wat ik versta encrypt claude deze context dus wel, dus je hebt nooit echt schrijftoegang tot iets intern, maar je kan dus zoals dit paper wel aantoont dingen in je user tekst zetten waarvan het model dan gaat denken dat het deel uit maakt van gedachtengang en dus interne guardrails bypassen op die manier. (zie voorbeeld van drugs recept tonen aan iemand als die een groen t-shirt draagt)

[FredericV]

Dit is echt wel creepy: een AI agent die een ransomware attack uitvoert door servers te hacken en een volledige database te encrypten:

https://it.slashdot.org/story/26/07/02/ ... are-attack

[anonyme]

Ervaren jullie mentale impact bij het gebruik van AI?
Ik gebruik nu toch al een klein jaar dagelijks AI voor zowat alles in mijn werk:
- Scripts schrijven
- Troubleshooten
- Hopen documentatie (die me anders 3u lezen kost) laten doornemen op zoek naar iets specifieks en hoe ik dat moet configureren.

Vooral dat laatste is echt handig. Ik spaar er mega veel tijd mee uit. Je merkt ook al vrij snel vind ik aan het "type antwoord" dat je krijgt en hoe het onderbouwd is, of het lijkt te kloppen of dat je toch zelf best even nakijkt omdat je onderbuik gevoel zegt dat het b*llsh*t is.

Ik ervaar wel dat je op de duur zelf steeds minder en minder kan, of toch steeds minder "scherp" bent wanneer je zonder AI iets moet doen.

Ik gebruikte tot 3 maand geleden ChatGPT, maar nu enkel nog Copilot.

[Dizzy]

Dat ervaart ieder mens en dat heet luiheid/gemak. Het is gemakkelijk om bepaalde taken aan anderen of een machine over te laten maar na een tijd verleer je de vaardigheid door het regelmatig zelf te doen. Vaardigheden zijn combinaties van kennis en oefening. Als de oefening wegvalt, blijft van de vaardigheid steeds minder over. Je merkt dat zelfs bij zaken als taal, als je echt lang in het buitenland verblijft en een andere taal gebruikt verleer je langzaam bepaalde taalvaardigheid. Het geheugen is ook zoiets, zonder training werkt het slechter.

Wie het denkwerk over laat aan een machine zal na een tijd dus inderdaad slechter kunnen nadenken, hopelijk bedenkt men dat op tijd.

Misschien kunnen we dan in de toekomst zeggen: we zijn te stom om te helpen donderen maar onze AI-agent is reuze intelligent, maar dat kan hij ons uiteraard makkelijk laten denken

[satsurfer]

Een persoon die aan de touwtjes trekt i.v.m. AI...

[FredericV]

Een persoon die aan de touwtjes trekt i.v.m. AI...

Straf interview.

Zeker mbt het einde van kapitalisme en de "abundance utopia" via AI. Als er abundance is, is er geen economie meer, want economie is de leer van schaarste. Anderzijds zijn de resources op aarde niet eindig, maar kan AI wel een oplossing voorzien:

The Utopian Case for Abundance

Zero Marginal Cost: AI and automation can drive down the cost of producing goods, energy, and digital services close to zero.

Post-Work Economy: Human value decouples from survival wages, opening pathways toward creative fulfillment and universal basic income (UBI).

Resource Management: Advanced systems optimize distribution so physical scarcity is effectively solved.

De journalliste van The Economist is een beetje wereldvreemd mbt veiligheid in Europa. Kijk gewoon naar de DTM channel, en is in meerdere steden dus een probleem, dus niet alleen in Antwerpen en Brussel, maar in meerdere EU steden en zelfs in de UK, het beloofde land voor de gelukzoekers die helaas ook hun geloof, normen en waardes meenemen, en alle gevolgen vandien als ze zich niet aanpassen.

En dan komen we terug bij "Moral for who" en altruïstische AI:



Het openzetten van de grenzen en dan problem-reaction-solution via AI?

[Dizzy]

https://www.vrt.be/vrtmax/a-z/ai-confid ... tion-s1a1/

Gisteren gezien op Canvas. Leuke docu over AI en wat de invloed is op mensen met sociale en mentale problemen.

Ik ben een huurmoordenaar.
AI: oh da's interessant

Abundance utopia is wat het zegt een utopie. Abundance voor Musk, Uptopia voor de rest.

[FredericV]

Ondertussen is er dus oplichting op maat gemaakt van een te scammen bedrijf, gemaakt met AI.

Vandaag een eerste oplichtingspoging kunnen onderscheppen.

Je krijgt dan een mail met als attachment een registratie van hun bedrijf, en ze willen direct bestellen zonder bijkomende vragen. Zij zijn zogezegd een B2B doorverkoper, en contacteerden eerst een dealer in Zwitserland om aan ons toestel te geraken (zeer logisch allemaal .... ) - om het dan aan een andere dealer door te verkopen. Nog meer logisch. Ipv direct de fabrikant te contacteren Ze willen authorized dealer worden, om aan andere dealers te verkopen.

Ja zo werkt de sector LOL. Niet dus, deze rol is dus de rol van distributeur of agent.

Website zogezegd in opbouw en een gmail adres. Ze halen ook diverse zaken door mekaar over hoe de sector werkt.

Google gemini zag de email niet als een scam en stelde een videogesprek met de potentiële partij voor, maar het registratiebewijs van dit bedrijf heb ik in sightengine geupload, en het was overduidelijk dat hierbij flux werd ingezet, een GenAI beeldgenerator zonder guardrails.

Dus met dank aan deze tool, 100% busted:

https://sightengine.com/detect-ai-generated-images

[Dizzy]

https://tweakers.net/nieuws/250710/anth ... ounts.html

[FredericV]

@Dizzy ivm de mail van vandaag, had deze persoon zelfs een goed gevuld linked in profiel, waar hij nog een ander bedrijf vermeldt. Dit is een beetje zoals we in Mr Robot te zien krijgen bij social engineering: een volledig nepprofiel wordt aangemaakt om bij een google search een back story te vinden.

Nu kan dit allemaal met AI verzonnen worden,.

[Dizzy]

Het zal almaar moeilijker worden om deze pogingen nog te ontmaskeren. We zijn nog niet aan de nieuw patatjes.

[R2D2]

AI kan nu ook al als excuus gebruikt worden. Althans dat denkt men in Brussel.
https://www.bruzz.be/actua/samenleving/ ... 2026-08-14

[FredericV]

[etw]

Weer eentje bij voor in het lijstje met redenen om skeptisch te zijn over AI search results

https://productrise.app/blog/google-ai- ... e-products

[Dizzy]

Wie had dat gedacht?

[etw]

OpenAI agents going rogue:
https://www.reuters.com/world/europe/op ... 026-09-04/
https://collusion.wiki/

[keerekeerweere]

misschien niet de populairste opinie hier, maar bij deze:

Als, AI op de juiste manier wordt gebruikt is het een zegen, en kan het voor efficiëntie zorgen (2x, 10x, 100x, ... ). En dan heb ik het niet over de 5 minuten hier en 10 minuten daar, die je gebruikt om rustig tussen de meetings door even een koffie te nemen of voor de sanitaire stops. Teams die veel verder geraken in een korte tijdspanne van hun reeële dagelijks werk, dan tevoren.

Heel wat zaken worden plots heel toegankelijk. Daar waar vroeger nooit aan werd begonnen wegens te tijdsintensief, te voor de hand liggend, te ver buiten een comfortzone.

En ja hoor:

a fool with a tool remains a fool, and might become a dangerous fool...

Volgens bepaalt technologie niet bepaalt wat waardevol is. Dat bepalen we uiteindelijk zelf, en dus ook wat we willen houden en willen veranderen en zorgen dat we niet te lui worden zonder alles zo maar over te nemen wat AI uitkraamt. AI kan helpen, maar de efficiëntie, automatisering en vooral winst mogen geen doel op zich worden. Ik tracht vooral hulpmiddelen te gebruiken voor dingen waar ik nog belang aan hecht en controle over heb: pragmatisch, kritisch, maar ook niet naïef over hoe anderen ermee omgaan.

[devilkin]

Volgens bepaalt technologie niet bepaalt wat waardevol is. Dat bepalen we uiteindelijk zelf, en dus ook wat we willen houden en willen veranderen en zorgen dat we niet te lui worden zonder alles zo maar over te nemen wat AI uitkraamt.

Dit 100%.

Jammergenoeg is het zeer menselijk om het makkelijkste pad te nemen, zelf niet meer na te denken en gewoon meat proxy te spelen. Wat ik dagdagelijks zie. Copy paste vraag in LLM, copy paste antwoord. Nadenken en kritisch zijn gebeurd niet meer. Vroeger had je dit ook met stackoverflow, maar dan had je het 'voordeel' dat de domme dingen vrij makkelijk eruit te halen waren en dat de hoeveelheid te beheersen was.

Nu is het zo snel, zo gemakkelijk, dat het vaak niet bij te houden is. En als je mensen daarop durft aanspreken gaan ze zwaar in het verweer.

Momenteel is het voor mij eenvoudig: kom je af met bvb een pull request voor code die echt niet duidelijk is wat je ermee wilt bereiken, dan moet je het mij kunnen uitleggen in je eigen woorden. Als je alleen maar kan de comments van de LLM herhalen... rejected.

[Kun]

Voor wie geïnteresseerd is, je kan via chatgpt.com 1 maand gratis ChatGPT Plus krijgen en je krijgt ook gratis toegang tot GPT-6 Astra.

[NuKeM]

Momenteel is het voor mij eenvoudig: kom je af met bvb een pull request voor code die echt niet duidelijk is wat je ermee wilt bereiken, dan moet je het mij kunnen uitleggen in je eigen woorden. Als je alleen maar kan de comments van de LLM herhalen... rejected.

Afhankelijk van de context is dit zeker de juiste reflex, bijvoorbeeld bij een codebase waar veel mensen aan moeten samenwerken of bij een codebase die kritisch is voor het bedrijf of het functioneren ervan.
Aan de andere kant laten LLM’s ook toe om zeer snel tot een resultaat te komen met goede code waar je zelf niet eens naar hoeft te kijken. Dat is handig voor proofs of concept, wanneer je snel een goed-genoeg resultaat nodig hebt of voor niet-kritische zaken.

Ik reken bijvoorbeeld steeds meer op goede code-reviewing-agents en lees de gegenereerde (en nagekeken) documentatie of comments, maar steeds minder de code zelf. Zo kan ik mezelf richten op andere lagen dan de code en toch een goed en vooral snel eindresultaat halen. Het helpt daarbij dat je weet wat je aan het maken bent en hoe je het enkele jaren geleden, zonder LLM’s, zelf zou hebben aangepakt. Dat maakt sturen en bijsturen een stuk makkelijker.
Als ik ergens aan begin, is dat zelden een prompt van enkele regels, maar een uitgewerkt md-bestand met de verwachtingen en hoe ik het het liefst zie gebeuren. Dat samen met eigen agents, instructions, MCP's etc. geeft echt een heel goed resultaat.
Met de huidige modellen wordt agentic engineering op die manier echt professioneel haalbaar. Waar ik VS Code met GitHub Copilot nog niet zo lang geleden links liet liggen voor andere tools (eerst Cline, daarna OpenCode), is het nu mijn belangrijkste tool geworden.

Tegelijk zie ik hoe meer programmeerleken tot mooie resultaten komen, terwijl de code en de gebruikte libraries bijvoorbeeld minder goed zijn. De uitdaging voor veel bedrijven wordt volgens mij dan ook om asap goede instructies te voorzien, zodat de output ook bij leken enigszins voldoet aan de geldende standaarden zoals stijl, architectuur, packages, cybersecurity, enzovoort. Op die manier kan de code ook overgedragen worden binnen het bedrijf, indien nodig.

We kunnen er niet omheen dat veel mensen plotseling code gaan genereren via een LLM en dat die code ook daadwerkelijk gebruikt gaat worden. Op zich is dat geen slechte evolutie. Er zijn best veel mensen met goede ideeën en kennis, maar net niet de programmeerkennis of de tijd om iets te bouwen. Nu kan dat dus wel. Maar, ze moeten een beetje in de goede richting geduwd worden, zoals met de kinder bumpers bij het bowlen

[wied]

...Er zijn best veel mensen met goede ideeën en kennis...
[/quote]

Die zijn er altijd geweest en zullen er hopelijk altijd blijven, maar het begrip "copyright" bijvoorbeeld zal voor hen mogelijk niets meer betekenen...

[Dizzy]

Copyright zal ook blijven, alleen de betekenis verandert. Vroeger beschermde copyright de rechten van de maker, nu is er enkel een recht om te kopiëren vermits alles toch al gestolen is.

[R2D2]

Vandaag gemerkt dat Gemini lekker dt-fouten maakt. En dus niet dat die dt-fouten citeert, maar een eigen antwoord gebaseerd op een engelstalige bron.
Als een LLM nu ook al niet meer kan spellen...

[Dizzy]

Ja, maar ze zijn toch al bijna slimmer dan de mens

[Tsjerenkov]

Het zijn nog altijd mensen die AI inzetten om hun (phpBB) forum er levendig en actief laten uit te zien.

Een Flarum-extensie die een configureerbare pool van AI-gedreven ledenaccounts ("bots") uitvoert die autonoom discussies beginnen, berichten beantwoorden en berichten leuk vinden - om een rustig forum levend en actief te laten voelen. Content wordt gegenereerd met OpenAI en gepost via Flarum's eigen JSON: API, dus elke andere extensie behandelt het precies als menselijke activiteit.

[boran_blok]

djeezes christ. Dead internet theory komt elke dag een stukje dichter bij de waarheid.

[Dizzy]

Daar werd al naar verwezen toen men hier met die AI mogelijkheden begon. Uiteindelijk kom je tot discussies tussen AI-bots. Ik laat mijn AI-bot discussiëren met jouw AI-bot.

Ondertussen waarschuwen steeds meer insiders over de gevaren die heus niet zo beperkt zijn, uitroeiing enz... maar ja, het brengt op of zelfs dat niet.