AI coding agents are rapidly changing how software is built, allowing engineering teams to generate and modify code at a pace that would have been difficult to imagine only a few years ago. But during a recent NYSE interview with Jane King, HUD CEO and co-founder Roee Adler argued that faster code generation is exposing a different problem: AI can write code without necessarily understanding how that code will behave once it reaches production.

For HUD, that gap between code and real-world behavior is becoming one of the most important challenges in modern software engineering. Adler discussed how the company's runtime technology is designed to give AI coding agents visibility into production, helping engineers move faster without sacrificing reliability.

The Gap Between Code and Production

Adler described software engineering as having two distinct realms: the code engineers create and the environment in which that code ultimately operates. While large language models have been trained on enormous amounts of source code, they generally lack the same depth of information about how software behaves under real-world conditions.

(The) Software engineering world is divided into two realms. There's the realm of codes and then there's the realm in which the code actually behaves in production. Now, LLMs, the platforms on top of which AI coding agents were built, were trained on mountains of code, but the information related to how that code behaves in reality is just a different kind of data.

That distinction becomes more important as AI coding agents become standard parts of development teams. Adler believes the industry has already moved beyond the question of whether AI can make engineers faster; the harder question is whether organizations can safely deploy the software AI helps create.

“The bottleneck has shifted in the past year from how fast am I as an engineer to how quickly can my company ship code without jeopardizing stability.”

The Rise of “Shaky Finger Syndrome”

The shift also creates a new accountability problem. Engineers may increasingly be responsible for deploying code they did not personally write and may not fully understand, even though they remain accountable when something goes wrong.

Adler described this as “shaky finger syndrome,” a term HUD heard from one of its customers. The phrase captures the hesitation an engineer can feel when deciding whether AI-generated code is safe enough to enter production.

“So someone, a human, has to decide that they're shipping this code into production. We heard it, by the way, from one of our customers-used the term the shaky finger syndrome. So it was so powerful because everyone just got it right. It's how can I take responsibility for code that I'm not deeply intimately familiar with, but I'm going to be blamed if something breaks, right.”

Bringing Runtime Context to AI

HUD's approach is to bring information about production behavior into the development process. The company has built what Adler described as a runtime code sensor, giving AI coding agents visibility into how functions behave in production as they reason about code.

At HUD we built a runtime code sensor which is a technology that is based on two main pillars. One is function-level behavioral context. So the coding agent understands how every function behaves in production as it is reasoning over code, and the second is what we call a forensic engine.

The second component is designed to provide detailed information when something goes wrong, including problems involving errors, slowdowns, CPU and memory. Instead of requiring engineers to piece together what happened from logs, traces and monitoring tools, HUD aims to make that production context directly available to the development workflow.

“At HUD, part of our core beliefs is that people shouldn't do sort of investigative police work to try to understand what happened at the scene of the crime. They should just have the information directly from there, which is exactly the forensics engine.”

Why Visibility Matters at Scale

Adler also argued that conventional sampling can leave important gaps in production visibility. Large applications can generate billions of events, making it impractical to collect and analyze everything. Yet the events most likely to reveal an emerging problem can be unusual or infrequent, meaning they are precisely the events that sampling can miss.

“When something goes wrong, it's always on the margins. It's always this rare occasion that is always sampled out,” Adler said. HUD's technology is designed to operate alongside running software, providing visibility into behavior without simply sending every piece of available data elsewhere.

“A lot of our IP is about being there, living and running together with the code, not missing anything but also not sending anything.”

Toward a Continuous Feedback Loop

Adler sees this runtime visibility as part of a broader change in the software development lifecycle. Rather than treating coding, deployment and monitoring as separate stages, he believes AI coding agents will need a continuous feedback loop that connects the code they produce with what happens after deployment.

“Coding agents need an iterative continuous feedback loop from the code that they are shipping into their own behavior.” That model would allow teams to catch problems before deployment where possible, while also responding quickly when an issue only emerges under real production conditions. The goal is not simply to identify a failure, but to feed the resulting information back into the development process so the AI agent can improve future changes.

The Next Stage of AI-Powered Engineering

For Adler, the transformation of software engineering will extend beyond AI-generated code. As writing software becomes increasingly automated, reliability, monitoring and system health may become the next parts of the development lifecycle to undergo major changes.

“The writing of software is already being revolutionized because uh almost no one's using IDEs anymore. They are not looking at code as much as they did in the writing office.”

Ultimately, HUD's vision is for AI coding agents to take greater responsibility for the consequences of the software they produce, not just the code itself. Adler described that as a future in which greater engineering velocity could actually improve reliability rather than putting additional pressure on it.

We are hoping to look at these as a sort of yin and yang, to build this infrastructure, this platform where the more you increase velocity, you actually increase reliability. And that would, I think, unlock the power of AI code generation into engineering organizations at a much, much different level.