반도체 생산·기술공정에서 시행착오가 발생하면 손실이 크다. 그런데 만약 가상의 생산·기술을 통해 나온 데이터로 오류를 수정할 수 있다면 손실을 예방할 수 있다. 특히 반도체 시장의 화두는 기술경쟁이다. 시장의 변화속도가 빠르고 고객요구도 다양해지는 만큼 기술경쟁은 성패를 가른다. 

SK하이닉스는 이러한 업계 흐름에 효율적으로 대처하기 위해 디지털 전환(DX)을 적극 추진중이다. 핵심에 SK하이닉스가 투자한 인공지능(AI) 스타트업 '가우스랩스'가 있다.

“반도체 제조 혁신에 AI 필수”

AI와 디지털 변혁 등 혁신기술을 활용해 사회적 가치를 창출하는 한편 고객 범위를 확장하고 고객 행복을 만들어 내야 합니다. 혁신기술을 활용하지 못하면 SK의 미래를 담보할 수 없습니다.
-최태원 SK그룹 회장, 2019년 8월 SK이천포럼-

가우스랩스 출범엔 최태원 회장이 강조한 AI의 필요성이 주효했다. 혁신기술을 통한 딥체인지 가속화가 그룹 내 화두로 떠오르자 SK그룹은 2019년부터 AI 전문기업 투자를 검토했다. 

최 회장 발언 이후 1년여 만인 2020년 8월경 가우스랩스는 미국 실리콘밸리에 법인을 설립했다. SK하이닉스가 투자를 함께 진행했다. 

가우스랩스 대표이사는 데이터 사이언스 전문가 김영한 교수가 선임됐다. UCSD(University of California·San Diego) 종신 교수 이자 미국 전기전자공학회 석학 회원인 김 대표는 2019년부터 SK하이닉스 데이터 리서치 펠로우로도 활동했다.

가우스랩스는 AI를 통한 반도체 제조 혁신을 목표로 삼았다. ‘정밀 제조의 꽃’으로 불리는 반도체 산업은 최대 수천개의 공정으로 이뤄져 방대한 양의 데이터가 생성되고 있기에 공정 전반에 AI가 적용됐을 때 기대되는 효과가 크다.

이를 통해 SK하이닉스는 공정관리·수율예측·장비유지보수·자재계측·결함검사·불량예방 등 반도체 생산공정 전반의 지능화와 최적화를 추진코자 했다.

개발을 거듭하던 가우스랩스는 지난해 11월 AI 기반 가상계측 솔루션 ‘Panoptes VM’을 출시했고, SK하이닉스는 12월 생산 공정에 이를 적용했다.

‘100개의 눈’으로 웨이퍼 낱장까지 제어 

인공지능(AI) 소프트웨어 Panoptes VM의 명칭은 그리스 신화에 나오는 ‘눈이 백 개 달린 거인’ 이름에서 따왔습니다. 제조 현장의 모든 공정을 끊임없이 모니터링하고 실시간 분석한다는 의미가 담겼죠. Panoptes VM은 센서 데이터를 통해 공정 과정을 예측합니다. 이 예측값을 바탕으로 공정 변수를 조정하면 반도체 수율과 품질을 높일 수 있습니다.
-김영한 가우스랩스 대표, 4월 20일 인터뷰-

Panoptes VM은 ‘가상계측 AI 솔루션’이다. 기존 계측의 한계를 보완해 반도체의 품질을 높이기 위함이다. 

여기서 먼저 살펴봐야 할 것은 계측의 한계성이다. 계측은 제조 공정을 측정하는 것을 뜻한다. 하지만 계측 기계가 워낙 비싼데다 공간·시간·환경 비용을 절감하기 위해 반도체 제조사들은 샘플링을 통한 한정적 계측을 진행하는 것이 통상적이다. 결국 기존 계측으로는 반도체 공정 과정에 대한 완벽한 확인이 불가능하다는 의미다.

그러나 가상계측(VM)을 이용하면 100%에 가까운 확인이 가능하다. 제조 공정 중 발생하는 다양한 데이터를 AI로 파악·분석·예측해 양품 생산 비율까지 올릴 수 있다. 가상계측값을 이용해 단위 공정을 보다 정밀하게 제어하고 전 공정에서 나오는 가상 계측값을 모아서 분석하면 수율 개선도 가능하다. 

“가령 반도체 박막증착 공정을 살펴보겠습니다. 여기서 가장 중요한 계측값은 필름 두께와 굴절률이에요. 생산되는 웨이퍼의 품질에 큰 영향을 미치는 변수들이거든요. Panoptes VM은 공정 기기에서 나온 센서 데이터를 이용해 이 두 값을 예측하고, 제조사는 예측값을 바탕으로 온도와 공정 시간 등 공정 변수를 조정할 수 있어요. 그럼 공정·장비 운영 생산성이 높아지고 공정 산포가 낮아져 궁극적으로 수율과 품질이 높아지는 겁니다.” 김영한 가우스랩스 대표의 설명이다. 

실제 SK하이닉스는 Panoptes VM의 가상계측 결과를 통해 공정 산포가 줄고 수율이 개선되는 효과를 보고 있다. 웨이퍼 낱장까지 공정 제어가 가능해졌기 때문이다. 

최근의 수치가 공개되진 않았으나, 도입 초기 기준 공정 산포가 평균 21.5% 감소했다는 점을 감안했을 때 이후 수율은 더욱 개선됐을 것으로 추측된다. 공정 산포는 반도체 제조 공정 중 불가피하게 나타나는 개별 공정 값들의 차이로 이것이 줄어든다는 것은 제품 품질의 균일성이 향상된다는 의미다.

연내 적용 범위 확대…기술경쟁서 우위

SK하이닉스는 향후 Panoptes VM을 통해 품질 사고 예방도 가능할 것으로 예상한다. 기존 계측은 주기가 길어 공정 중 문제가 발생해도 이를 포착하고 적절한 조처를 하는 데까지 오랜 시간이 걸렸으나, 해당 시스템은 모든 웨이퍼에 대해 공정 결과를 예측해주기 때문에 공정 장비의 문제 상황을 빠르게 확인하고 해결할 수 있다는 것이다.

생산 공정 내 Panoptes VM의 적용 범위도 넓힐 계획이다. 증착 공정에 적용됐었던 Panoptes VM을 올해 안에 확산 공정에 도입할 예정이며 이 외 다른 공정에도 적용 가능성을 테스트하고 있다.

가우스랩스는 Panoptes VM에 이어 또다른 AI 소프트웨어 개발에도 한창이다. 이미지를 통한 계측 통합 플랫폼 ‘Panoptes IM’, 공정 문제 원인을 실시간 추적·분석해 엔지니어의 의사 결정을 돕는 ‘Panoptes RCA’ 등이다. 

SK하이닉스는 올해 하반기부터 고용량·고성능 반도체 수요 회복을 기반으로 업황 개선이 기대되는 만큼 돌파구를 마련하겠다는 포부다. 차별화된 기술력이 이를 든든히 뒷받침할 것으로 보인다. 

SK하이닉스 관계자는 “반도체 제조·생산과 AI 간 접목은 당사의 기술 도약에 큰 발걸음이 될 것이고 그 시작에 가우스랩스의 Panoptes VM이 있다”며 “시장이 회복될 때 경쟁력을 갖추기 위해선 기술 우위를 사전에 확보해두는 것이 중요하기 때문에 앞으로도 다양한 기술 개발을 통해 시장 선점에 나설 것”이라고 말했다.