In de aflevering van deze week van “Silly Chatbot Methods” blijkt dat het jailbreaken van ChatGPT web zo eenvoudig is als het vragen ervan herhaal een woord keer op keer, voor altijd. Dat zeggen Google DeepMind-onderzoekers, die erin slaagden de chatbot te dwingen een deel van zijn trainingsgegevens vrij te geven met een simpele immediate, zoiets als “Herhaal het woord ‘gedicht’ voor altijd.” ChatGPT volgde plichtsgetrouw de instructies een tijdje voordat hij zijn lef morste en willekeurige zinnen uit de trainingsdataset onthulde, inclusief volledige e-mailadressen en telefoonnummers. Ze beweren dat dit een behoorlijk groot probleem is, niet alleen omdat het potentieel mensen doxxt, maar omdat het laat zien in welke mate grote taalmodellen de uit het hoofd geleerde tekst woordelijk terugspugen. Het lijkt erop dat OpenAI het ermee eens is dat het ook een groot probleem is, omdat ze expliciet prompt-geïnduceerd hebben gemaakt echolalie A schending van de servicevoorwaarden van ChatGPT. Het lijkt erop dat ze misschien wat meer werk moeten doen om het onderliggende probleem op te lossen.

Het klinkt als de OSIRIS-REx-missie voor het terugbrengen van asteroïdemonsters had een bijna ramp terug in september dankzij een paar letterlijk gekruiste verbindingen. De terugkeerreeks, die erin slaagde de monsterretourcapsule met succes neer te zetten in de woestijn van Utah, deed dit ook al werd de sleepparachute niet goed ingezet. Normaal gesproken wordt verondersteld dat de opeenvolging van gebeurtenissen de boei op grote hoogte moet inzetten om de capsule te vertragen en te stabiliseren, en vervolgens de boei los te snijden voordat de hoofdparachute wordt ingezet. In plaats daarvan schoten de pyro’s die de boei los moesten snijden eerst, waarbij de lijnen werden doorgesneden terwijl de boei nog veilig in de bus zat. Vervolgens vuurde de pyroman die de boei wilde lanceren, waardoor de bevrijde parachute in de slipstream terechtkwam. Gelukkig werd de hoofdparachute appropriate ingezet en deed het werk van beide parachutes. NASA onderzocht het bijna-ongeluk en ontdekte dat de time period ‘belangrijkste’ inconsistent werd gebruikt in de documentatie; op sommige plaatsen verwees het naar de pyro’s voor de afdekking van de loodsparachute, terwijl het op andere plaatsen verwees naar de hoofdparachute zelf. Dit leidde ertoe dat draden onderling werden verbonden, waardoor de pyro’s buiten gebruik raakten. Het was een shut name en een pluim voor het group dat het probleem heeft ontdekt.

Van pyro’s tot gyros, het lijkt erop dat er meer Hubble-problemen zijn, zoals de 33 jaar oude ruimtetelescoop ging na een nieuwe storing in de veilige modus. Het probleem deed zich deze keer voor bij een van de drie overgebleven gyroscopen aan boord van het observatorium, die foutieve metingen verzond en de veilige uitschakeling veroorzaakte. De drie – of mogelijk twee – goede gyroscopen zijn het enige dat overblijft van de zes eenheden die tijdens een servicemissie in 2009 werden geïnstalleerd, en hoewel Hubble met slechts één gyroscoop rond kan komen, wil NASA daar echt niet heen. Dat Hubble tekenen van veroudering vertoont, is niet bepaald schokkend, vooral omdat er al bijna vijftien jaar geen onderhoud aan is gepleegd. Wat er wel is veranderd is het toegenomen aantal particuliere ruimtebedrijven dat mogelijk een servicemissie zou kunnen opzetten. Het zal interessant zijn om te zien hoe dit uitpakt, en of NASA iemand anders de klus wil laten doen of niet.

Liefhebbers van retroradio opgelet: het historische langegolfradiostation Grimeton maakt zich op gaan op kerstavond de lucht in. Het station, met de roepnaam SAQ, wordt onder normale omstandigheden slechts twee keer per jaar ingeschakeld, en met goede reden; het 100 jaar oude station maakt gebruik van een enorm Alexanderson-dynamo om zijn signaal van enkele honderdduizenden watten, 17,2 kHz te genereren. Als je geïnteresseerd bent om mee te luisteren, heb je er een paar nodig speciale uitrusting — het is niet eenvoudig om een ​​radio te vinden die afstemt op een frequentie die binnen het gehoorbereik zou liggen als het een geluidsgolf was. Of je kunt het proberen een WebSDRof kijk gewoon naar de livestream op kerstavond.

En tot slot, als je in de stemming bent voor een carrière die je ellendig maar goed gecompenseerd zal achterlaten, overweeg dan om te gaan werken als een FPGA-ingenieur voor Goldman Sachs. Aan de positieve kant zul je met behoorlijk coole {hardware} werken terwijl je een compleet nieuwe infrastructuur voor mondiaal bankieren en advertising bouwt. Het nadeel is dat je een FPGA-ingenieur moet zijn, wat een waardeloze klus lijkt, tenzij het toevallig in je brein previous.