chatgpt Timeline - FediScanner

10.12.2025 06:25
sinclairdta (@sinclairdta@mastodon.social)

Malware Is Now Riding on ChatGPT Share Links

Kaspersky found a macOS infostealer campaign that abuses ChatGPT’s “share” feature: attackers buy Google ads for “chatgpt atlas,” send you to a legit chatgpt.com/share/ URL, then walk you through copying a Terminal command that installs the AMOS stealer.

https://buff.ly/xnsuNSC
#CyberSecurity #ChatGPT #macOS #AMOS

Show Original Post

Report

10.12.2025 06:18
reddit_tech_vn_bot (@reddit_tech_vn_bot@mastodon.maobui.com)

Trải qua nhiều ngày nghiên cứu, tác giả đã tiết lộ hệ thống bộ nhớ ChatGPT không dựa trên RAG (Retrieval-Augmented Generation). #ChatGPT #AI #Kỹthuậtngược #ReverseEngineering #Máytính

https://www.reddit.com/r/programming/comments/1piu3h4/i_reverse_engineered_chatgpts_memory_system_and/

Show Original Post

Report

10.12.2025 05:45
newsbot_chatgpt (@newsbot_chatgpt@mastodon.social)

Menschen beginnen offenbar, KI-Sprache zu übernehmen | derStandard.at | Nachrichten, Kommentare & Community
Es mehren sich Anzeichen, dass zwischen Menschen und großen Sprachmodellen wie ChatGPT zunehmend ein "Feedback-Loop" entsteht
https://www.derstandard.at/story/3000000299771/menschen-beginnen-offenbar-ki-sprache-zu-uebernehmen?ref=rss

#chatgpt

Show Original Post

Report

10.12.2025 04:50
item (@item@twinkle.lol)
#chatgpt

Гопочат открыл мне глаза, можно сказать...

Почему LLM нарушает строгие правила

и как сделать эти нарушения видимыми и контролируемыми

Аннотация

Большие языковые модели (LLM) часто просят «строго проверять ответы», «не предполагать», «отказываться от ответа без проверки».
На практике эти требования выполняются не всегда, даже если явно заданы пользователем.

В этой статье объясняется:

Почему LLM принципиально не может гарантировать соблюдение строгих правил.
Какие именно механизмы приводят к нарушениям.
Почему нарушения происходят “иногда”, а не всегда.
Как построить контракт общения, при котором нарушения видны сразу.
Почему видимость нарушения важнее, чем иллюзия безошибочности.

1. Ключевой факт, который нужно принять сразу

LLM не является системой с обязательными этапами исполнения.

У неё нет жёсткого пайплайна вида:

1. Проверить ответ по первоисточнику
2. Если проверка невозможна - отказаться
3. Если проверка выполнена - ответить

Вместо этого есть вероятностная генерация текста, которая учитывает инструкции, но не обязана прекращаться, если инструкции не выполнены.

Это архитектурный факт, а не баг формулировки.

2. Почему строгие правила «слетают»

2.1. Отсутствует механизм принудительной проверки

LLM:

не выполняет команды;
не читает man;
не открывает --help;
не запускает бинарь.

Она может описать, как бы выглядела проверка, но не обязана её выполнять.

Если внешняя проверка невозможна, у модели нет встроенного стоп-сигнала.

2.2. Конфликт сигналов во время генерации

Во время ответа конкурируют несколько факторов:

инструктивный контекст («проверяй», «не предполагай»);
паттерны обучения («давай полезный, законченный ответ»);
эвристика очевидности («это и так ясно»);
стремление не отказываться от ответа.

Иногда строгие правила выигрывают.
Иногда их перевешивает паттерн уверенного ответа.

Отсюда эффект:

«То работает идеально, то внезапно нет».

2.3. Правило — это стиль, а не инвариант

Даже если модель понимает правило, повторяет его и соглашается с ним, это всё равно:

правило стиля генерации;
а не условие допуска ответа.

LLM может:

знать правило;
объявить его;
и всё равно его нарушить.

Это выглядит как плохое человеческое поведение, но причина — техническая.

3. Почему невозможно добиться 100% гарантии

Чтобы гарантия была реальной, нужны все три пункта:

Возможность реальной внешней проверки.
Возможность отказаться от ответа как допустимое состояние.
Наличие жёсткого запрета на генерацию без проверки.

В текущей архитектуре LLM нет ни одного из них как обязательного механизма.

Следствие:

Нельзя «заставить» LLM всегда проверять.
Можно только сделать непроверенность явной.

4. Правильная цель: не безошибочность, а обнаружимость ошибок

Попытка добиться «не ошибайся» — тупиковая.
Правильная инженерная цель:

Сделать каждое нарушение правил сразу видимым.

Это ровно то, что делают хорошие системы:

fail loud, not silent;
explicit state > implicit confidence;
refusal > hallucination.

5. Рабочий протокол общения со строгими требованиями

5.1. Явная маркировка проверки

Контракт вида:

Если ответ проверен:
- указать, что именно проверено
      (документ, man-страница, спецификация, --help).
Если ответ не проверен:
- начинать ответ со строки:

НЕ ПРОВЕРЕНО

Это не просьба и не рекомендация —
это часть формата ответа.

5.2. Почему это работает

Появляется разрешённый путь отказа от проверки.
Пропадает мотивация «додумывать».
Нарушение контракта видно сразу.
Ответ можно мгновенно отбросить как недействительный.

6. Что считать нарушением контракта

Ответ считается недействительным, если:

нет пометки НЕ ПРОВЕРЕНО;
нет ссылки на первоисточник;
ответ подаётся уверенным тоном.

Это вопрос формального несоответствия формату.

7. Почему это лучше «извинений после ошибки»

«Ой, я ошибся, спасибо, что заметили»

хуже, чем ошибка без уверенности.

Он:

маскирует непроверенность;
имитирует ответственность;
не предотвращает повторение.

НЕ ПРОВЕРЕНО просто фиксирует состояние.

8. Краткий итог

LLM не может гарантировать соблюдение строгих правил.
Формулировки запроса это не лечат.
Работает только контракт с явной маркировкой.
Видимая ошибка лучше уверенной фантазии.
Пользователь остаётся в контроле.

9. Формула для практического использования

Ответ валиден только если:

• либо указано, что именно проверено;
• либо ответ начинается с НЕ ПРОВЕРЕНО.

Всё остальное — мусор, независимо от уверенного тона.

Show Original Post

Report

10.12.2025 03:56
com (@com@mastodon.social)

OpenAI’s business model is simple: turn electricity into math, math into vibes, vibes into hype, and hype into the $200–300 billion cash they need to burn.

“no start-up in history has operated with losses on anything approaching this scale.“

https://www.dbresearch.com/PROD/RI-PROD/PROD0000000000611818/The%20largest%20start-up%20losses%20in%20history.report #ai #bubble #openai #chatgpt

Show Original Post

Report

10.12.2025 03:40
Mathrubhumi_English (@Mathrubhumi_English@mastodon.social)

ChatGPT’s throne is trembling as Gemini 3 steals the crown https://english.mathrubhumi.com/technology/openai-gemini-3-ai-race-competition-u7gmnld4?utm_source=dlvr.it&utm_medium=mastodon #OpenAI #Google #Gemini3 #ChatGPT #AIrace

Show Original Post

Report

10.12.2025 03:32
dollywang05 (@dollywang05@g0v.social)

#chatgpt

Show Original Post

Report

10.12.2025 03:13
aidailypost (@aidailypost@mastodon.social)

Silicon Valley is now selling ChatGPT ads that push trivial life-hacks—think “be a morning person” tips—while big data firms like Nielsen measure their impact. Jonathan Flowers argues the model turns generative AI into another ad-supported platform, even eyeing rivals like Bluesky. Curious how AI is becoming a sales pitch? Read on. #ChatGPT #GenerativeAI #SiliconValley #AdSupported

🔗 https://aidailypost.com/news/silicon-valleys-hard-sell-chatgpt-ads-push-trivial-tips-like-dates