AI가 공장 모터의 속도나 냉각 설비의 목표 온도를 추천하는 화면은 이제 낯설지 않습니다. 하지만 추천값을 PLC에 바로 쓰게 하는 순간 질문이 달라집니다. 모델이 잘못 예측하면 누가 막을까요? 센서가 오래된 값을 보냈다면 어떻게 알까요? 네트워크가 끊긴 뒤 늦게 도착한 명령은 여전히 유효할까요?
2026년 9월 21일 NIST는 SP 800-82 개정 4판의 최초 공개 초안을 발표했습니다. 초안은 운영기술(OT)의 보안을 다루면서 성능, 신뢰성, 안전 요구를 함께 고려해야 한다고 설명합니다. 현재 확정 지침은 개정 3판이며, 4판은 2026년 11월 30일까지 의견을 받는 단계입니다. 이 글의 설계 예시는 NIST가 특정 AI 제어 구조를 의무화했다는 뜻이 아니라, 그 OT 특성을 산업 AI에 적용해 본 실무 제안입니다.
핵심은 모델 정확도 하나로 제어 권한을 결정하지 않는 것입니다. AI가 무엇을 관찰하고, 무엇을 제안하고, 무엇을 실제로 실행할 수 있는지를 단계와 경계로 설계해야 합니다.
제어 문제는 답변 오류보다 물리적 결과가 크다
문서 요약 AI가 틀리면 사람이 답변을 고칠 수 있습니다. 설비 제어에서 틀린 명령은 불량품, 장비 손상, 생산 중단, 작업자 위험으로 이어질 수 있습니다. 같은 소프트웨어 오류라도 복구 시간과 영향 범위가 다릅니다. OT 시스템이 신뢰성과 안전을 별도로 고려해야 하는 이유입니다.
예를 들어 AI가 에너지 절감을 위해 냉각 펌프 회전수를 낮추자고 제안했다고 가정하겠습니다. 이 권고가 합리적인지는 최근 센서값, 현재 생산 품목, 운전 모드, 장비의 허용 범위, 비상 정지 상태에 따라 달라집니다. 모델은 과거 데이터에서 평균적인 상관관계를 배웠을 뿐, 지금 정비 중인 장비의 모든 제약을 알지 못할 수 있습니다. 여기서 펌프 예시는 설명을 위한 가상 사례입니다.
따라서 “모델 정확도가 98%”라는 숫자만으로 PLC 쓰기 권한을 줄 수 없습니다. 오판의 결과, 데이터의 최신성, 운전 상태, 명령이 적용되는 시간, 작업자가 개입하는 방식까지 함께 정해야 합니다.
네 층으로 역할을 나누면 책임이 선명해진다
실무에서 이해하기 쉬운 구조는 네 층입니다. 첫째, AI는 예측이나 설정값 후보를 생성합니다. 둘째, 별도의 결정적 정책 계층이 후보를 검증합니다. 셋째, PLC나 기존 제어 시스템이 허용된 명령을 실행합니다. 넷째, 비상 정지·가드·안전 컨트롤러 같은 안전 기능은 해당 설비의 위험 평가와 적용 표준에 맞춰 독립적으로 작동해야 합니다. 여기서 “독립”은 AI의 오류나 통신 장애가 안전 기능의 동작을 좌우하지 않도록 설계한다는 의미입니다.
두 번째 정책 계층은 단순한 프롬프트가 아닙니다. 설정값의 상하한, 변경 속도, 허용 시간, 설비 모드, 센서 상태, 권한, 승인 여부를 코드와 설정으로 검사하는 곳입니다. 모델이 같은 요청을 다르게 해석하더라도 정책 결과는 재현 가능해야 합니다. 정책을 통과하지 못한 권고는 이유를 기록하고 실행하지 않습니다.
이 그림은 현장 시스템을 그대로 복제한 배선도가 아닙니다. 실제 안전 설계는 설비 제작사, 제어 엔지니어, 안전 담당자가 해당 장비의 위험 평가와 인증 요구에 맞춰 결정해야 합니다. 중요한 것은 AI 서비스가 안전 장치를 대신한다는 전제를 두지 않는 것입니다.
명령은 값만 보내지 말고 ‘유효 조건’을 함께 보낸다
AI가 “속도를 5% 낮추자”고 계산했더라도 몇 분 뒤 도착했다면 당시 상황과 맞지 않을 수 있습니다. 그래서 명령을 단순한 숫자가 아닌 짧은 계약으로 다룹니다. 예를 들어 대상 설비와 태그, 제안값과 단위, 근거가 된 데이터 시각, 명령 만료 시각, 실행 가능한 운전 모드, 적용 범위, 요청 주체, 승인 기록, 고유 명령 ID를 함께 둡니다. 이 필드 조합은 특정 표준의 필수 스키마가 아니라 운영에서 검증할 수 있게 만드는 설계 예시입니다.
검증 계층은 “이 값이 허용 범위인가”뿐 아니라 “지금도 유효한가”를 확인합니다. 승인 당시의 설비 모드와 실행 시점의 모드가 다르면 재승인을 요구할 수 있습니다. 동일 명령 ID가 재전송되면 두 번 적용하지 않도록 처리합니다. 통신이 복구되면서 오래된 명령이 밀려와도 만료 시각으로 차단합니다.
이전에 발행한 센서 데이터의 시각·품질 글과도 연결됩니다. 입력 데이터가 오래됐거나 품질이 Bad라면 AI가 그럴듯한 권고를 생성해도 실행 가능한 명령으로 바꾸지 않아야 합니다.
‘자동’은 한 번에 켜는 기능이 아니다
가장 안전한 첫 단계는 관찰 모드입니다. AI는 설비 데이터를 읽고 예측만 합니다. 제어 명령은 보내지 않습니다. 이 단계에서 입력 데이터 누락, 모델 지연, 잘못된 경보, 운전 조건별 성능을 확인합니다.
다음은 그림자 모드입니다. AI가 실제로는 어떤 조치를 제안했을지 기록하되 설비에는 적용하지 않습니다. 운영자의 선택이나 기존 제어 규칙과 비교하고, 차이가 난 이유를 분석합니다. 여기서 중요한 지표는 모델의 평균 점수보다 위험한 운전 조건에서 얼마나 자주 부적절한 권고를 했는지입니다.
세 번째는 사람 승인 모드입니다. AI 권고가 화면에 나타나고, 현장 운영자가 근거와 현재 상태를 보고 승인합니다. 승인해도 정책 게이트의 상하한과 만료 검사는 그대로 작동합니다. 사람 승인 버튼을 누르는 것 자체가 기술 검증을 대체하지 않습니다.
마지막으로 일부 저위험 조치에 한해 제한된 자동 실행을 검토할 수 있습니다. 허용 설비·운전 모드·변경 폭·시간대를 좁히고, 이상 상황에서는 기존 제어 방식으로 복귀하도록 설계합니다. 각 단계에서 다음 단계로 옮겨갈 근거와 되돌아갈 기준을 미리 정합니다.
NIST AI 위험관리 프레임워크도 배포 이후 성능과 위험을 계속 측정하고, 사람의 감독·재정의·중단·복구 절차를 마련하도록 권고합니다. 산업 현장에서는 이 원칙을 장비의 실제 운전 절차와 연결해야 의미가 있습니다.
실패할 때 무엇을 하는지가 정상 동작만큼 중요하다
제어 연동 설계에서는 장애를 예외가 아니라 예상 가능한 상태로 다룹니다. 센서값이 늦거나 품질이 나빠진 경우, 모델 서비스가 응답하지 않는 경우, 정책 게이트와 PLC 사이 통신이 끊긴 경우, 서로 다른 명령이 동시에 도착한 경우를 각각 생각해야 합니다. 이런 상황에서 “마지막 AI 제안을 계속 사용한다”는 선택은 위험할 수 있습니다.
구체적인 복귀 동작은 장비별 위험 평가가 결정하지만, 시스템 수준에서는 공통적으로 몇 가지를 확인할 수 있습니다. 만료된 권고는 폐기하고, 제어 명령 실패를 성공으로 기록하지 않으며, 현장 운영자가 AI 연동을 중지할 수 있어야 합니다. AI 서비스를 멈춰도 설비의 기존 제어와 안전 기능이 계속 작동해야 합니다. 감사 로그에는 누가 무엇을 제안했고 어떤 검사와 승인을 통과해 실제로 무엇이 적용됐는지를 남깁니다.
운영자는 화면에 “AI가 제안한 값”과 “PLC에 실제 적용된 값”을 분리해 봐야 합니다. 두 값이 다르면 왜 달랐는지 확인할 수 있어야 하고, 적용 결과를 읽어 재확인하는 절차도 필요합니다. 명령을 보냈다는 사실만으로 설비가 원하는 상태가 됐다고 판단할 수는 없습니다.
보안 경계도 제어 경계와 함께 그린다
AI 서비스가 클라우드나 사내 IT 네트워크에 있고 PLC가 OT 네트워크에 있다면 연결 경로 자체가 중요합니다. 모델 서비스에 PLC 쓰기 권한을 넓게 주는 대신, 허용된 명령만 받아 검사하는 중간 서비스를 두고 대상 설비와 명령 종류를 제한합니다. 작업자 계정과 서비스 계정의 역할을 나누고, 명령 요청부터 실행 결과까지 추적할 수 있도록 합니다.
2026년 NIST 초안은 자산 관리, 네트워크 감시, 시스템 관리 기능 보호, 제로 트러스트 원칙 적용을 확장된 논의 항목으로 제시합니다. 이들은 AI가 OT에 접속할 때도 유용한 검토 주제입니다. 다만 초안의 보안 지침을 특정 공장의 안전 인증이나 제어 설계 승인으로 오해해서는 안 됩니다. 보안, 기능 안전, 생산 운영은 함께 검토하되 각자의 책임이 있습니다.
한 설비로 시작하는 검증 체크리스트
현장에서 처음 검토한다면 공장 전체 자동화보다 한 설비의 저위험 권고를 선택하는 편이 좋습니다. 예컨대 에너지 절감 목적의 설정값 추천이라면 먼저 다음 질문에 답해 봅니다.
- 행동 범위: AI는 관찰, 추천, 승인 요청, 제한된 실행 중 어디까지 할 수 있는가?
- 입력 계약: 어떤 센서값을 쓰며, 최대 허용 지연과 품질 기준은 무엇인가?
- 명령 계약: 값·단위·대상·만료·운전 모드·요청자·명령 ID가 정의돼 있는가?
- 정책 검사: 허용 범위, 변경 속도, 충돌 명령, 승인 상태를 누가 검사하는가?
- 현장 제어: PLC가 명령을 거부하거나 적용하지 않았을 때 결과를 어떻게 확인하는가?
- 안전 기능: AI와 통신 시스템이 정지해도 장비의 독립 안전 기능은 유지되는가?
- 복귀 기준: 어떤 지표가 나빠지면 그림자 모드나 기존 운영으로 돌아가는가?
- 책임과 기록: 권고·검사·승인·실행·결과의 담당자와 로그가 연결되는가?
이 질문에 답하지 못한 채 모델의 오프라인 정확도만 높이는 것은 제어 도입의 핵심 위험을 남겨둡니다. 반대로 역할과 경계를 정하면 작은 AI 기능부터 실측 결과를 보고 확장할 수 있습니다.
AI가 설비를 움직이는 시대의 좋은 시작점
산업 AI의 가치는 더 빠른 판단과 효율적인 운영에 있습니다. 그 가치를 현장에 남기려면 모델이 내린 답을 그대로 명령으로 취급하지 않아야 합니다. AI는 후보를 만들고, 결정적 정책은 실행 가능성을 검사하며, 기존 제어 시스템은 장비를 움직이고, 안전 기능은 독립적으로 위험을 막는 구조가 출발점입니다.
2026년 NIST OT 보안 초안은 산업 시스템에 새로운 기술을 연결할 때도 성능·신뢰성·안전을 함께 봐야 한다는 점을 다시 환기합니다. 초안의 최종 내용은 바뀔 수 있지만, 현장 적용에서 먼저 물어야 할 질문은 분명합니다. “AI가 맞을 때 무엇을 할 수 있는가”와 함께 “AI가 틀리거나 멈췄을 때 설비는 어떻게 안전하게 계속 운영되는가”를 설계해야 합니다.
참고 자료
- NIST SP 800-82 Rev. 4 최초 공개 초안, 2026년 9월 21일
- NIST SP 800-82 Rev. 3 최종판
- NIST AI Risk Management Framework Core
#산업AI #제조AI #OT보안 #PLC #스마트팩토리 #AI제어 #설비자동화 #안전인터록 #산업제어시스템 #ICS #NIST80082 #AI거버넌스
