AI en onze toekomst

[boran_blok]

Vergeet ook niet euh alles wat er nu gaande is in de wereld. Eerlijkgezegd moest ik nu aan kinderen beginnen, neen, je brengt geen kind in een gedoemde wereld zoals deze.

[Dizzy]

Geboortecijfers namen al af omdat er ondertussen mensen genoeg zijn en steeds meer mensen dat ook beseffen. Door hogere levensstandaard is het ook minder nodig om kinderen als backup te gebruiken voor tegenslagen. Ook kindersterfte is afgenomen net als sterven in kraambed. De hogere productiviteit en de grenzen van de planeet en leefomgeving zijn ook aansporingen om minder kinderen te hebben. Daar komen dan de technologische factoren bij. Minder jobs door AI zal ook zorgen dat er minder geboortes zijn want wie neemt veel kinderen als er weinig toekomst is.

Minder menselijk contact zie ik niet direct als een grote reden, er zal altijd contact zijn en ook online contact kan helpen om een partner te vinden, zelfs makkelijker dan vroeger. Het aantal Tinderdates die ik tegen kom op restaurant zegt genoeg

Wat wel een teken aan de wand is dat mensen AI gebruiken als raadgever over relaties en waarom en hoe ze af te breken. Sommigen hebben zelfs een relatie met hun chatbot of dat denken ze toch. Er zijn ook veel meer lossere relaties, minder trouwen en vaste relaties zorgt ook voor minder kinderen want een kind als alleenstaande opvoeden betekent een aanslag op de levensstandaard.

[on4bam]

No comment

https://www.the-independent.com/tech/fo ... 03787.html

[FredericV]

Daar komen dan de technologische factoren bij.

Feit is wel dat de fertiliteit daalt:



Het zal dus een combinatie zijn van factoren.

Eerlijkgezegd moest ik nu aan kinderen beginnen, neen, je brengt geen kind in een gedoemde wereld zoals deze.

Ik herken deze keuze.

En het gaat steeds moeilijker worden om nog kinderen op de wereld te zetten.

[FredericV]

Ik had reeds een sterk vermoeden dat users gestuurd kunnen worden door een specifieke bias in AI modellen, en hier wordt het bevestigd.
Dit is uiteraard hetzelfde met het mainstream nieuws en alle social media algoritmes: iemand anders of een computer bepaalt wat jij te zien krijgt, waardoor ons wereldbeeld en onze eigen bias verandert.

[Dizzy]

Het is zelfs erger. (asociale) media denken niet in uw plaats, bij AI vertrouwen mensen op de resultaten of beschouwen ze het als DE waarheid want AI weet zogezegd alles. Niemand weet echter welke ideologie of beweegredenen achter deze black box zit. Mensen kiezen steevast voor gemak en waarom nadenken als je een ander kan napraten? Dat past ook in het feit dat de meerderheid volgers zijn. Het aantal mensen dat creatief en zelf dingen bedenkt is beperkt. AI valt nu net die creativiteit aan door de ideeën, van creatievelingen te stelen en te herverpakken. De jobs verdwijnen en eenheidsworst vindt steeds meer ingang. Bekijk de invloed van pakweg Canva, overal zie je dezelfde "ontwerpen" terugkeren.

Gelukkig begint het bij bedrijven op te vallen dat AI alles behalve gratis is en dat iemand aannemen soms goedkoper is dan de groeiende rekeningen voor tokens.

[FredericV]

Sinds vandaag zie ik op FB bij nieuwe posts, de verplichting om een AI label toe te voegen voor AI generated content:

Er is echter nog steeds geen manier om AI slop te rapporteren. Vanaf 1 augustus is AI labeling verplicht door de AI act.
Maar of ze dit ook gaan enforcen, of double checken ....

[boran_blok]

Nog een intressant artikel/paper die ik tegengekomen ben:
https://role-confusion.github.io/

Het gaat over hoe de AI modellen bepalen welk deel van de instructie van waar komt en hoe verwarring (al dan niet bewust veroorzaakt) ontstaat

[FredericV]

Het gaat over hoe de AI modellen bepalen welk deel van de instructie van waar komt en hoe verwarring (al dan niet bewust veroorzaakt) ontstaat

De attacks met die tags lijken wel op het editeren van HTML, waarbij de server side de state niet bijhield, met alle gevolgen vandien.
De signalling is dus in-band?

[boran_blok]

Yep, lees het goed door, howel dat er uit ziet als gesloten xml/html tags zijn dat maar suggesties, de modellen letten op toon en manier van de structuur van de tekst om te bepalen wat wat is. user, tool, gedachtengang, etc.

naar wat ik versta encrypt claude deze context dus wel, dus je hebt nooit echt schrijftoegang tot iets intern, maar je kan dus zoals dit paper wel aantoont dingen in je user tekst zetten waarvan het model dan gaat denken dat het deel uit maakt van gedachtengang en dus interne guardrails bypassen op die manier. (zie voorbeeld van drugs recept tonen aan iemand als die een groen t-shirt draagt)

[FredericV]

Dit is echt wel creepy: een AI agent die een ransomware attack uitvoert door servers te hacken en een volledige database te encrypten:

https://it.slashdot.org/story/26/07/02/ ... are-attack

[anonyme]

Ervaren jullie mentale impact bij het gebruik van AI?
Ik gebruik nu toch al een klein jaar dagelijks AI voor zowat alles in mijn werk:
- Scripts schrijven
- Troubleshooten
- Hopen documentatie (die me anders 3u lezen kost) laten doornemen op zoek naar iets specifieks en hoe ik dat moet configureren.

Vooral dat laatste is echt handig. Ik spaar er mega veel tijd mee uit. Je merkt ook al vrij snel vind ik aan het "type antwoord" dat je krijgt en hoe het onderbouwd is, of het lijkt te kloppen of dat je toch zelf best even nakijkt omdat je onderbuik gevoel zegt dat het b*llsh*t is.

Ik ervaar wel dat je op de duur zelf steeds minder en minder kan, of toch steeds minder "scherp" bent wanneer je zonder AI iets moet doen.

Ik gebruikte tot 3 maand geleden ChatGPT, maar nu enkel nog Copilot.

[Dizzy]

Dat ervaart ieder mens en dat heet luiheid/gemak. Het is gemakkelijk om bepaalde taken aan anderen of een machine over te laten maar na een tijd verleer je de vaardigheid door het regelmatig zelf te doen. Vaardigheden zijn combinaties van kennis en oefening. Als de oefening wegvalt, blijft van de vaardigheid steeds minder over. Je merkt dat zelfs bij zaken als taal, als je echt lang in het buitenland verblijft en een andere taal gebruikt verleer je langzaam bepaalde taalvaardigheid. Het geheugen is ook zoiets, zonder training werkt het slechter.

Wie het denkwerk over laat aan een machine zal na een tijd dus inderdaad slechter kunnen nadenken, hopelijk bedenkt men dat op tijd.

Misschien kunnen we dan in de toekomst zeggen: we zijn te stom om te helpen donderen maar onze AI-agent is reuze intelligent, maar dat kan hij ons uiteraard makkelijk laten denken