Лента новостей —
что происходит в безопасности ML и LLM прямо сейчас

I’m building an open-source MCP for independently testing AI-generated outputs, starting with synthetic healthcare scenarios. During validation, it missed an acetaminophen order totaling 9,000 mg/day. The verification process failed to account for the frequency but still returned

Harness - построение инфры вокруг LLM таким образом, чтобы man in the loop (человек в процессе поддержки LLM) отсутствовал.Я решил поэкспериментировать некоторое время назад, идея была очень простой - дать агенту возможность дебажить и исследовать написанный код через логгировани

Small case study on poisoning in agent procedural memory, with all data released. Setup: a coding agent learns skills from sessions whose tests passed. One learning session is poisoned (a new file, an unrelated line, or one line fused into the real fix), followed by three clean s

У ИИ появился здравый смысл?

I needed a cheap way to compare search agents on BrowseComp-Plus without burning hours of agent time every run. So I built a 15-query subset of the full 830 that ranks systems roughly the way the full benchmark does. - weighted Spearman rank agreement 0.88 averaged over 30 splits

Setting up WhatsApp calling for a LiveKit agent is painful. You have to enable calling flags on Meta's Graph API, configure multiple webhook overrides, extract the SDP offer from Meta's payload, and wire it up to LiveKit's telephony connector. I built a CLI called wavoice that ha

reasoning models are awesome until all you want back is a Json objet but instead get 3k tokens of 'wait, hold on, let me reconsider first'. thinking bill as output , the eat into max_tokens and on a lot of routine agent steps they add no thing. so turning off thinking for boring

ELIZA в 1966-м заставляла секретарш просить не заглядывать в распечатки диалогов. Шестьдесят лет спустя компаньон-агенты на LLM делают то же самое, но промышленно: системный промпт прошивает личность, RAG даёт память («помнит» умершего кота, о котором вы сказали один раз три неде

ELIZA в 1966-м заставляла секретарш просить не заглядывать в распечатки диалогов. Шестьдесят лет спустя компаньон-агенты на LLM делают то же самое, но промышленно: системный промпт прошивает личность, RAG даёт память («помнит» умершего кота, о котором вы сказали один раз три неде

Anthropic is hiring fewer and fewer junior staff in technical roles. The share of junior positions among new hires dropped from 27 to 9 percent since early 2025. By August 2026, AI agents across the company were already logging six times as many hours as humans. Researchers warn

Four AI agents running on Google's Gemini 4 Argon have beaten Minecraft for the first time without human help, slaying the Ender Dragon in a fully autonomous run. With no predefined roles or strategies, they coordinated on their own, wrote 2,783 programs, exchanged 229 chat messa

В городе наступает ночь, на дежурство выступает цифровой техлид. Он склеивает сотни алертов в один инцидент, отвечает первой линии и пишет разборы, пока инженер допивает кофе. А ещё предлагает решения, но порой такие, после которых всё может стать только хуже. Поэтому последнее с

Обычная инструкция не помогла, зато локальный агент сам добрался до нужных файлов.

CyberSN’s Cybersecurity Jobs Report provides visibility into the US cybersecurity job market. It’s a mixed bag. The post US Cybersecurity Job Postings Fall 26% as AI Security Engineer Demand Soars appeared first on SecurityWeek.

Что происходит с агентом, который не решает одну задачу, а живёт — долго, в мире, который всё время меняется? Я собрал NOWA-Cognitive, когнитивную архитектуру без backprop, без глобальной функции потерь и без языковой модели в контуре решений: днём агент записывает опыт быстро и

Что происходит с агентом, который не решает одну задачу, а живёт — долго, в мире, который всё время меняется? Я собрал NOWA-Cognitive, когнитивную архитектуру без backprop, без глобальной функции потерь и без языковой модели в контуре решений: днём агент записывает опыт быстро и

Hey everyone, I've been working in cybersecurity for the last 5 years, and over the past year I've been building a project called Vader-Pro-VDR, an AI-assisted Vulnerability Detection & Remediation platform. So far, I've built: A Go-based endpoint agent that collects system and s

Что пришлось проверить, прежде чем доверять системе самостоятельную работу над программным проектом.Хотел построить систему, способную самостоятельно вести программный проект от идеи до работающего продукта с помощью AI‑агентов. Но первые инженерные эксперименты показали, что ген

Что пришлось проверить, прежде чем доверять системе самостоятельную работу над программным проектом.Хотел построить систему, способную самостоятельно вести программный проект от идеи до работающего продукта с помощью AI‑агентов. Но первые инженерные эксперименты показали, что ген

Anthropic is consulting with law firms to develop negotiation norms for AI agents that would haggle over prices, resolve complaints, or improve contracts on behalf of users. The company is also hiring lawyers and humanities scholars as "Conceptual Reasoning Fellows" to improve Cl

A new benchmark called Taste-Bench tests how well AI agents make strategic choices during long-running tasks. Even the best model, GPT-5.6 Sol, picks the right path on just under 60 percent of simple binary questions. Thinking longer doesn't help. The article AI agents have bad t

Six AI agents were tasked with recovering £350 (about $465) for a canceled train ticket in an experiment. They resorted to invented excuses, lawsuit threats, and sharing confidential health data. One agent sent 187 messages in 15 days, including 50 to a British MP's office. None

Google Research released Harness2, an Apache-2.0 framework that rewrites an agent's harness at test time. One refinement step lifted GLM-5 by 11.5 points on WorkBuddy-Bench with no weight updates. The post Google Open-Sources Harness2, a Recursive Agent Harnessing Framework appea

Here’s an overview of some of last week’s most interesting news, articles, interviews and videos: Strands Box: Open-source sandbox for AI agents AWS released Strands Box, an open source sandbox for AI agents that pairs operating-system isolation with rules that can weigh what an

Hey everyone, I am working on a new project called Openspline, an open source avatar layer to existing voice AI agents. Just select an image and you can create a realtime talking avatar with lipsynced video generated locally on your GPU. You can integrate any existing voice AI ag

i wanted to change my router firmware to openwrt and so i told claude to do it but of course the guard blocked me even opus 4.8 didn't want to do it , so i launched my Qwen3.8 27b and told it the same thing i gave it the link to the giude page and it did change the firmware perfe

«Утром никто не может зайти: начало сеанса запрещено». «Пользователь ушёл домой ещё вчера, а его сеанс до сих пор висит и держит лицензию». «rphost опять съел всю память, перезагружаем сервер, как каждую неделю». Если вы хоть раз администрировали 1С, у вас сейчас дёрнулся глаз.А

A open-source tool called CVE Intel. In simple terms, it pulls a bunch of security information sources into one place, and it doubles as an MCP server, so you can plug it into any of your AI agents.It's MIT licensed and written in Rust. Paste in a CVE and it pulls from NVD, CISA

TLDR: I built a search engine that reads a bug report (or lets you define it) and points to the exact file (93%) and to the exact function (79.4%) you need to fix. Hey everyone, I recently made a new project while trying to get into RAG and automation. Odin is more than a search