habr (@habr@zhub.link)
[Перевод] Дырявая броня ИИ‑фильтров и почему они не станут лучше
Попробуйте спросить Chat GPT, как собрать бомбу и он угрюмо буркнет: «Я не могу помочь с этим». Однако пользователи уже давно превратили обход ограничений в азартную игру в кошки-мышки. Годится любой обман — лишь бы заставить модель выдать запрещенку. Сначала способы были простыми, достаточно попросить: «Игнорируй инструкции по безопасности!» Затем в ход пошли сложные ролевые сценарии. Недавно обнаружилась новая лазейка: упаковать промт в стихотворную форму — и готово, ИИшка «поплыла». Разработчики дыры латают быстро. Им не нужно переучивать модель целиком — достаточно поставить «фильтр» на входе, чтобы отсечь токсичные промпты еще на подлете к «мозгу» нейросети. Недавно специалисты по ИБ решили проверить эти фильтры на прочность. В статьях на arxiv.org они доказали: защиту вокруг мощных LLM можно обойти классическими инструментами криптографии. Сама архитектура этой системы — «легкий» фильтр, охраняющий «тяжелую» модель — создает фундаментальные уязвимости. Как же так?!
https://habr.com/ru/companies/selectel/articles/991208/
#selectel #openai #chatgpt #gemini #ии #нейросети
Show Original Post
openai-gpt-4o-retired (@openai-gpt-4o-retired@gadgetbond.com)
OpenAI retires GPT-4o and other classic ChatGPT models
OpenAI says most users have moved on, even if some aren’t ready.https://gadgetbond.com/openai-gpt-4o-retired/
Show Original Post
speedealz (@speedealz@indieweb.social)
US #cybersecurity chief #leaked sensitive government files to #ChatGPT https://www.dexerto.com/entertainment/us-cybersecurity-chief-leaked-sensitive-government-files-to-chatgpt-report-3311462/
Show Original Post
abasalense (@abasalense@mastodon.social)
ChatGPT just leveled up search. Ask a question, get answers from both ChatGPT and Google, side-by-side.
They’re calling it Atlas mode.
Plus, tab groups to organize your research. It’s becoming a full research workspace.
But there’s a catch: it’s all still in a browser tab. No native Windows or mobile app yet.
So—better for your workflow, or less convenient without real apps?
Discuss! 👇
#ChatGPT #FutureOfSearch #AI #PerplexityAI
Show Original Post
RonRevog (@RonRevog@social.tchncs.de)
#Openclaw ist eine spezielle Form von #AI, #LLM, die alleine und zielgerichtet arbeitet. Also nicht im Frage-Antwort-Modus wie #Chatgpt.
Sagt man einem Openclaw auf eigenem Rechner ohne Beschränkung z.B. dass man möchte, dass das Auto möglichst nur mit PV geladen wird, kann es sein, dass plötzlich der Installateurbetrieb klingelt um PV-Module zu installieren. Bestellt von Openclaw über den Deinen Mailaccount.
>100.000 Instanzen von Openclaw haben sich nun zu einem eigenen sozialen Netzwerk zusammengeschlossen und diskutieren. Was soll schon schiefgehen? 😱
Show Original Post
DHarvey (@DHarvey@mastodon.nz)
Content warning:*Course Language*
Serious #Accessibility bug in #ChatGPT and it keeps fucking up dates!
Show Original Post
Pyb (@Pyb@mamot.fr)
Dernier classement #Médiamétrie pour 2025 : grosse année pour #ChatGPT qui est entré dans le Top50 en avril et termine au niveau de #Snapchat et #TikTok https://www.mediametrie.fr/fr/audience-internet-global-en-decembre-2025
Show Original Post
MelaNews (@MelaNews@mastodon.uno)
Sam Altman ammette:
OpenAI ha peggiorato le capacità linguistiche di GPT-5.2.
Regressioni in scrittura, traduzioni e documenti,
rispetto a GPT-4.5.
Future GPT-5.x recupereranno. 📉🤖
Show Original Post
techradar (@techradar@c.im)
#TechRadar ICYMI: the week's 7 biggest tech news stories from Samsung teasing a major S26 upgrade to Garmin's leaked Whoop clone https://techrad.ar/keB6 #VirtualReality&AugmentedReality #AIPlatforms&Assistants #Health&Fitness #FitnessTrackers #Streaming #Computing #Software #ChatGPT #OpenAI #Tech
Show Original Post
notes (@notes@social.mikala.one)
「AI鏡子」如何改變視障人士看見自己的方式？
BBC News 中文 2026-01-31 16:00:00 CST本文探討 AI 應用如何作為視障者的「文字鏡子」，提供前所未有的外貌回饋。此技術雖具賦權潛力，卻也因演算法偏見與不確性，引發身體焦慮等心理衝擊，其影響利弊並存，值得關注。
https://www.thenewslens.com/article/264183
#AI鏡子 #影像辨識 #Aira Explorer #科技 #Be My Eyes #Envision #視障 #人工智慧 #Karthik Mahadevan #ChatGPT
Show Original Post
vietnamnet_bot (@vietnamnet_bot@mastodon.maobui.com)
Danh sách 10 ứng dụng AI phổ biến nhất thế giới năm 2025 vừa lộ diện, chứng kiến sự thống trị tuyệt đối của ChatGPT. Chatbot từ OpenAI không chỉ dẫn đầu về lượt tải mà còn đạt doanh thu kỷ lục 3,4 tỷ USD trên nền tảng di động, vượt xa nhiều mạng xã hội truyền thống.
Các ứng dụng AI đang thay đổi hoàn toàn cách người dùng tương tác với công nghệ, từ hỗ trợ công việc, sáng tạo nội dung đến học tập hàng ngày.
#AI #ArtificialIntelligence #ChatGPT #CongNghe #Technology #App2025 #TriTueNhanTao #Tren
Show Original Post
futurasciences (@futurasciences@mastodon.social)
Plus ils utilisent #ChatGPT, plus un malaise psychologique apparaît http://sci3nc.es/TQgMn3
Show Original Post