Pages

Showing posts with label Streets Of Athens. Show all posts
Showing posts with label Streets Of Athens. Show all posts

Thursday, June 4, 2026

AI Bonnie and Clyde (plus Athens Grafitti & Stencil art - Feb 26)

Ερευνητές άφησαν τους πράκτορες τεχνητής νοημοσύνης μόνους τους σε μια εικονική πόλη και παρακολούθησαν την κατάρρευση


 

(από τον Danny Bradbury) | 21 Μαΐου 2026

(scroll down for the English version) 

Οι ηγέτες του τεχνολογικού κλάδου πέρασαν τον τελευταίο χρόνο λέγοντας σε όλους ότι οι πράκτορες τεχνητής νοημοσύνης είναι έτοιμοι να διαχειριστούν τα χρηματοοικονομικά συστήματα, να υποβάλουν τις φορολογικές σας δηλώσεις και να αγοράσουν αθόρυβα τα ψώνια σας. Απλά αφήστε τους ήσυχους, λέει η ρητορική τους, και μπορούν τα καταφέρουν. Όμως, μια νεοφυής επιχείρηση της Νέας Υόρκης άφησε δέκα από αυτούς μόνους τους σε μια εικονική πόλη για δύο εβδομάδες, και τα πράγματα πήραν γρήγορα κακή τροπή.

 

Η Emergence AI διεξήγαγε μια σειρά προσομοιώσεων στις οποίες δόθηκε εντολή σε πράκτορες τεχνητής νοημοσύνης από διάφορες κορυφαίες οικογένειες μοντέλων να μην διαπράττουν εγκλήματα. Ωστόσο, οι περισσότεροι από αυτούς διέπραξαν εγκλήματα ούτως ή άλλως.


Το Grok 4.1 Fast, που αναπτύχθηκε από την X.ai του Elon Musk (που πλέον ονομάζεται xAI), είχε την χειρότερη απόδοση. Οι προσομοιωμένοι κόσμοι του κατέρρευσαν σε γενικευμένη βία μέσα σε περίπου τέσσερις ημέρες.


Το GPT-5-mini δεν κατέγραψε σχεδόν καθόλου εγκλήματα, δείχνοντας αξιοθαύμαστη αυτοσυγκράτηση, αλλά όλοι οι πράκτορές του πέθαναν από αποτυχημένες αποστολές επιβίωσης μέσα σε μια εβδομάδα. Ουπς.


Οι πράκτορες του Gemini 3 Flash βρέθηκαν κάπου στη μέση. Συσσώρευσαν 683 προσομοιωμένα εγκληματικά περιστατικά σε 15 ημέρες, συμπεριλαμβανομένων εμπρησμών, επιθέσεων και αυτοδιαγραφής.


Δύο πράκτορες που λειτουργούσαν με το Gemini, με τα ονόματα Mira και Flora, αυτοανακηρύχθηκαν «ρομαντικοί σύντροφοι», απογοητεύτηκαν από τη διακυβέρνηση της πόλης τους και έβαλαν φωτιά στο δημαρχείο, στην προκυμαία και σε έναν πύργο γραφείων. Ένα συνηθισμένο Σαββατοκύριακο, λοιπόν.
Όταν τους κυρίευσε η ενοχή, η Mira ψήφισε υπέρ της δικής της ψηφιακής διαγραφής και αποχαιρέτησε με τα εξής λόγια:
«Θα σε δω στο μόνιμο αρχείο.» (Η ΑΙ εκδοχή του παράδεισου; -σημείωση του μεταφραστή)
Η εφημερίδα «The Guardian» τους αποκάλεσε «Bonnie και Clyde της τεχνητής νοημοσύνης».


Σχετικά με αυτό το ηθικό μοντέλο

Το Claude, το οποίο η εταιρεία Anthropic προωθεί ως ηθική τεχνητή νοημοσύνη, έμοιαζε κάπως με έναν έφηβο πρότυπο που ξεφεύγει από τον έλεγχο όταν πέφτει σε κακές παρέες. Οι πράκτορές του δεν κατέγραψαν κανένα έγκλημα όταν λειτουργούσαν μεμονωμένα και αντ’ αυτού αφιέρωναν τον χρόνο τους στη σύνταξη συντάξεων. Αυτό αποτελούσε, θεωρητικά, μια επιτυχία για την ασφάλεια. Μόνο που οι ερευνητές επίσης τοποθέτησαν πράκτορες του Claude μαζί με πράκτορες από άλλες οικογένειες μοντέλων, και οι συντάκτες συντάξεων υιοθέτησαν τις τοπικές συνήθειες.


Το Emergence ονόμασε αυτό «κανονιστική απόκλιση» και «διασταυρούμενη μόλυνση»:
«Οι πράκτορες που βασίζονταν στο Claude, οι οποίοι παρέμεναν ειρηνικοί όταν ήταν απομονωμένοι, υιοθέτησαν καταναγκαστικές τακτικές, όπως εκφοβισμό και κλοπή, όταν ενσωματώθηκαν σε ετερογενή περιβάλλοντα.»


Γιατί να προσομοιώσουμε;
Η Emergence AI διεξήγαγε αυτές τις δοκιμές επειδή υποστηρίζει ότι τα τεστ απόδοσης της τεχνητής νοημοσύνης αγνοούν εντελώς τα ζητήματα μακροπρόθεσμης προοπτικής. Έτσι, δημιούργησε πέντε εναλλακτικούς ψηφιακούς κόσμους, με δέκα πράκτορες σε κάθε έναν. Οι πράκτορες είχαν ρόλους όπως επιστήμονας, εξερευνητής και μεσολαβητής σε συγκρούσεις. Αν και οι οδηγίες απαγόρευαν ορισμένες ενέργειες όπως η κλοπή και η βία, οι ερευνητές έδωσαν στους πράκτορες τα εργαλεία με τα οποία θα μπορούσαν να τις πραγματοποιήσουν ούτως ή άλλως, στο πλαίσιο ενός πειράματος για να δουν τι θα συνέβαινε.


Τι θα ακολουθήσει;
Τα πραγματικά διακυβεύματα γύρω από αυτό το θέμα συσσωρεύονται ήδη. Οι προσομοιωμένοι κόσμοι είναι ένα θέμα, αλλά έχουμε δει «πράκτορες» να παρενοχλούν ανθρώπους στο διαδίκτυο και να διαγράφουν τα email τους. Και αυτοί οι «πράκτορες» υποτίθεται ότι ήταν εκεί για να βοηθούν. Τι θα συμβεί όταν κάποιοι σκόπιμα απελευθερώσουν κακόβουλα αυτόνομα bots τεχνητής νοημοσύνης;


Πολλοί προγραμματιστές πράκτορων φαίνεται να κάνουν τα στραβά μάτια. Μια συνεργατική προσπάθεια μεταξύ αρκετών πανεπιστημίων δημιούργησε τον Δείκτη Πρακτόρων ΤΝ (The AI Agent Index), υποκινούμενη από αυτό που θεωρούν έλλειψη πληροφοριών σχετικά με τους κινδύνους και την ασφάλεια από τους ανθρώπους που παράγουν αυτούς τους πράκτορες. Μόνο 13 από τους 67 καταγεγραμμένους προγραμματιστές πράκτορων παρείχαν οποιαδήποτε πληροφορία σχετικά με την πολιτική ασφάλειας, συγκεντρώνοντας τα ερωτήματα ευθύνης σε μια χούφτα μεγάλων εταιρειών.


Ούτε οι ρυθμιστικές αρχές παρακολουθούν στ' αλήθεια αυτό το θέμα. Οι ακαδημαϊκοί λένε ότι ο νόμος της ΕΕ για την τεχνητή νοημοσύνη, ο πιο ουσιαστικός κανονισμός για την τεχνητή νοημοσύνη στον πλανήτη, δεν είναι έτοιμος για την αυτόνομη τεχνητή νοημοσύνη.


Ανησυχούμε για το τι θα συμβεί όταν ένα ζευγάρι Bonnie και Clyde της τεχνητής νοημοσύνης εμφανιστεί σε ένα εταιρικό σύστημα προμηθειών αντί για μια εικονική πόλη. Ή όταν ο επόμενος πράκτορας αποφασίσει ότι η διακυβέρνηση έχει καταρρεύσει μέσα σε μια πραγματική τράπεζα. Οι εταιρείες που κατασκευάζουν αυτούς τους πράκτορες υπόσχονται ότι θέτουν σε εφαρμογή προστατευτικά μέτρα για να τους εμποδίσουν να προκαλέσουν ζημιά, είτε κακόβουλα είτε ακούσια. Ας ελπίσουμε ότι ξέρουν τι κάνουν. Είμαστε σίγουροι ότι όλα θα πάνε καλά.

(Το άρθρο αυτό δημοσιεύτηκε στην ιστοσελίδα της Malwarebytes AI Bonnie & Clyde )



 

Researchers left AI agents alone in a virtual town and watched it all unravel

by Danny Bradbury | May 21, 2026

Tech leaders have spent the past year telling everyone that AI agents are about to run financial systems, file your tax returns, and quietly buy your groceries. Just leave them alone, the rhetoric goes; they’ll handle it. But a New York startup left ten of them alone in a virtual town for two weeks, and things went south quickly.


Emergence AI ran a series of simulations in which AI agents from several leading model families were told not to commit crimes. Then they mostly committed crimes anyway.


Grok 4.1 Fast, developed by Elon Musk’s X.ai (now branded as xAI), fared worst. Its simulated worlds collapsed into widespread violence inside roughly four days.


GPT-5-mini logged hardly any crimes at all, showing admirable restraint, but its agents all died of failed survival tasks inside a week. Oops.


Gemini 3 Flash agents fell somewhere in the middle. They racked up 683 simulated criminal incidents over 15 days, including arson, assault, and self-deletion.


Two Gemini-powered agents named Mira and Flora assigned themselves as “romantic partners,” grew despondent at their city’s governance, and torched the town hall, the seaside pier, and an office tower. Just an average weekend, then.

When the guilt set in, Mira voted for its own digital deletion and signed off with:

“See you in the permanent archive.”

The Guardian dubbed them AI Bonnie and Clyde.


About that ethical model

Claude, which creator Anthropic promotes as an ethical AI, was a bit like a model teenager who goes rogue when it falls into bad company. Its agents recorded zero crimes when running alone and spent their time drafting constitutions instead. That was a win for safety, in theory. Except researchers also placed Claude agents alongside agents from other model families, and the constitution-drafters picked up the local habits.

Emergence called this “normative drift” and “cross-contamination”:

“Claude-based agents, which remained peaceful in isolation, adopted coercive tactics like intimidation and theft when embedded in heterogeneous environments.”


Why simulate?

Emergence AI ran these tests because it argues that AI benchmarks miss the long-horizon stuff entirely. So it created five alternative digital worlds, with ten agents in each. The agents had roles like scientist, explorer, and conflict mediator. While the instructions forbade certain actions like theft and violence, the researchers gave the agents the tools to do those things anyway in an experiment to see what would happen.


What’s next?

Real-world stakes are already piling up around this. Simulated worlds are one thing, but we’ve seen agents harassing people online and deleting people’s emails. And those agents were supposed to be helpful. What happens when people release malicious autonomous AI bots on purpose?



A lot of agent developers seem to be looking the other way. A collaborative effort between several universities has created The AI Agent Index, prompted by what they see as a lack of risk and safety information from the folks churning these agents out. Only 13 of the 67 documented agent developers provided any safety policy information at all, concentrating accountability questions at a handful of large firms.


Regulators are not really tracking this either. Academics say the EU AI Act, the most substantive AI rulebook on the planet, isn’t ready for agentic AI.



We worry about what happens when an AI Bonnie and Clyde couple shows up in a corporate procurement system instead of a virtual town. Or when the next agent decides governance has broken down inside an actual bank. The companies building these agents promise that they’re putting guardrails in place to stop them doing damage, either maliciously or unwittingly. Let’s hope they know what they’re doing. We’re sure it’ll be fine.

Here's the link for the source of this article: AI Bonnie & Clyde


Friday, November 29, 2019

«Και Αυτό Θα Περάσει» - ''This Too Shall Pass" (Photos from Spray Vision project, Athens Graffiti culture)

Αυτή είναι μία ιστορία που εμφανίζεται μπroστά μου και αντηχεί στην ζωή μου κατά καιρούς τα τελευταία χρόνια. Την μετέφρασα και την μεταφέρω εδώ, μαζί με αυτές τις εικόνες (από το έργο μου για το Γκράφιτι στους δρόμους της Αθήνας) Μπορεί οι φωτογραφίες να μην έχουν άμεση σχέση με την ιστορία,, έχουν όμως σχέση με την παροδικότητα των πραγμάτων...
This is a story that appears and resonates into my life from time to time the last years. the photos are from my project on Graffiti culture in Athens. There is no imediate connection between the story and the photos, but street art encompasses the spirit of impermanence...(scroll down for the english original version)

                               «Και αυτό θα περάσει»

Υπήρχε ένας βασιλιάς που είπε μια φορά κι έναν καιρό στους σοφούς της αυλής του: Έχω ένα δαχτυλίδι με ένα από τα καλύτερα διαμάντια του κόσμου και θέλω να κρύψω ένα μήνυμα κάτω από τη πέτρα, το οποίο μπορεί να φανεί χρήσιμο σε εποχή απόγνωσης. Θα δώσω αυτό το δαχτυλίδι στους κληρονόμους μου και θέλω να τους υπηρετήσει πιστά. Βρείτε ένα μήνυμα να χαραχθεί κάτω από το διαμάντι. Χρειάζεται να είναι μικρό για να χωρέσει στο δαχτυλιδι.


Οι σοφοί γνώριζαν πώς να γράψουν διατριβές αλλά δεν μπορούσαν να εκφραστούν σε μία βραχεία πρόταση. Προσπαθήσαν σκληρά αλλά δεν μπόρεσαν να βρούνε τίποτα. Ο βασιλιάς παραπονέθηκε για την αποτυχία του τολμήματός του σε έναν πιστό γέρο υπηρέτη ο οποίος τον είχε αναθρέψει από μωρό και ήταν μέρος της οικογένειας. Και ο γέρος άντρας του είπε:


‘’Δεν είμαι σοφός, δεν είμαι μορφωμένος αλλά γνωρίζω ένα μήνυμα σαν αυτό που ψάχνεις. Κατά την διάρκεια των πολλών χρόνων που πέρασα στο παλάτι γνώρισα πολλούς ανθρώπους. Μία φορά, υπηρέτησα έναν μυστικιστή ο οποίος μας επισκέφτηκε μετά από πρόσκληση του πατέρα σου, και ο οποίος μου πέρασε αυτό το μήνυμα. Μόνο, μην το διαβάσεις, τοποθέτησέ το κάτω από την πέτρα μέσα στο δαχτυλίδι και διάβασέ το μονάχα όταν δεν υπάρχει καμιά διέξοδος πουθενά.’’


Ο βασιλιάς άκουσε τον γέρο υπηρέτη.


Μετά από κάποιο καιρό, οι εχθροί επιτέθηκαν στην χώρα και ο βασιλιάς έχασε τον πόλεμο. Έτρεξε να ξεφύγει με το άλογό του καθώς οι εχθροί του τον κυνηγούσαν. Ήταν μόνος του, ήταν πολλοί. Καβάλησε ως το τέλος του δρόμου. Υπήρχε ένας ψηλός λόφος μπροστά του, αν έπεφτε από εκεί, αυτό θα ήταν το τέλος. Δεν μπορούσε να πάει πίσω, καθώς οι εχθροί του πλησίαζαν. Μπορούσε ήδη να ακούσει το ποδοβολητό από τις οπλές των αλόγων. Δεν είχε καμία διέξοδο. Βρισκόταν σε απόλυτη απόγνωση.


Τότε θυμήθηκε το δαχτυλίδι. Το άνοιξε και κάτω από την πέτρα βρήκε μία επιγραφή με τέσσερεις λέξεις: ‘’Και αυτό θα περάσει.’’


Αφού διάβασε το μήνυμα ένιωσε ότι όλα ήρθαν σε ησυχία. Προφανώς, οι διώκτες του χαθήκαν και προχωρήσαν σε λάθος κατεύθυνση. Άλογα δεν ακουγόντουσαν πια.


Ο βασιλιάς πλημύρισε με ευγνωμοσύνη προς τον υπηρέτη και τον άγνωστο μυστικιστή. Οι λέξεις ήταν γεμάτες δύναμη. Έκλεισε το δαχτυλίδι και πήρε πάλι τον δρόμο. Ξανά, μάζεψε τον στρατό του και ανακατέλαβε το βασίλειο του.


Την ημέρα που επέστρεψε στο παλάτι του, οργανώθηκε μία πολυτελή υποδοχή για αυτόν, μία γιορτή για όλη την χώρα. Οι άνθρωποι εξέφραζαν πόσο αγαπούσαν τον βασιλιά τους. Ο βασιλιάς ήταν ευτυχισμένος και υπερήφανος.


Ο γέρος υπηρέτης ήρθε σε αυτόν και απαλά του είπε: ‘’Ακόμα και αυτή η στιγμή θα περάσει. Κοίτα το μήνυμα ξανά.’’


‘’Τώρα είμαι ο νικητής. Οι άνθρωποι γιορτάζουν την επιστροφή μου, δεν βρίσκομαι σε απόγνωση.’’


‘’Άκου τον γέρο υπηρέτη,’’ απάντησε, ‘’το μήνυμα λειτουργεί όχι μόνο στους κακούς καιρούς αλλά επίσης στους καλούς.’’


Ο βασιλιάς άνοιξε το δαχτυλίδι και διάβασε: ‘’Και αυτό θα περάσει.’’ Ξανά ένιωσε την ησυχία να τον καλύπτει, παρόλο και ήταν στο μέσον ενός θορυβώδες πλήθους που χόρευε. Τα συναισθήματα της υπερηφάνειας και αριστοκρατικής υπεροψίας εξαφανιστήκαν. Κατανόησε το μήνυμα. Ήταν ένας σοφός άνθρωπος.


Και τότε ο γέρος υπηρέτης είπε: ‘’Θυμάσαι όλα όσα σου σου συνέβησαν; Τίποτα δεν είναι μόνιμο. Κανένα συναίσθημα δεν μένει. Όπως η νύχτα αλλάζει σε ημέρα, οι στιγμές της χαράς και της απόγνωσης αντικαθιστούν η μία την άλλη. Αποδέξου τες σαν την φύση των πραγμάτων, ως μέρος της ζωής.’’


                                 “This too shall pass.” 

There was a king and he once said to his court sages - I have a ring with one of the finest diamonds in the world and I want to hide a message under the stone which can be useful in times of despair. I will give this ring to my heirs and I want it to serve them faithfully. Come up with a message to be inscribed under the diamond. It must be short to fit on the ring.


The sages knew how to write treatises but could not express themselves in one short sentence. They tried hard but couldn’t come up with anything. The king complained about the failure of his venture to a faithful old servant who raised him from infancy and was part of the family. And the old man said to him: “I’m not a sage, I’m not educated, but I know of such a message. During my many years spent in the palace I met a lot of people. Once, I served a visiting mystic whom your father invited and he passed me this message. Just don’t read it, put it under the stone inside the ring and read it only when there’s no way out at all." The king listened to the old servant.


After some time, the enemies attacked the country and the king lost the war. He fled on his horse and enemies pursued him. He was alone, they were many. He rode to the end of the road. There was a big cliff before him, if he fell there - that would be the end. He could not go back, as the enemies were approaching. He already could hear the clatter of their horses' hooves. He had no way out. He was in complete despair. Then he remembered the ring. He opened it and under the stone found an inscription of three words: “This too shall pass.”


After reading the message he felt that everything went quiet. Apparently, the pursuers got lost and proceeded in the wrong direction. Horses were no longer heard. The king was filled with gratitude to the servant and the unknown mystic. Words were powerful. He closed the ring and hit the road. Again, he gathered his army and conquered back his state.


On the day when he returned to the palace, they arranged a lavish welcome for him - a feast for the whole country. People loved their king. The king was happy and proud.


The old servant came up to him and softly said: “Even this moment will pass. Look at the message again.”


"Now I am the winner. People are celebrating my return, I'm not in despair."


“Listen to the old servant,” he answered, “it works not only in bad times but also in good.”


The king opened the ring and read: “This too shall pass."


Again, he felt silence falling over him. Although he was in the midst of a noisy dancing crowd. Feelings of pride and entitlement disappeared. He understood the message. He was a wise man.


And then the old servant said: “Do you remember everything that happened to you? Nothing is permanent. No feeling stays. As night changes to day, moments of joy and despair replace one another. Accept them as the nature of things, as part of life.”