카카오스토리

중력을 보다 Deep과 실시간 학습

레이저 간섭계 중력과 관측소(LIGO)는 수백만 광년 떨어진 중력파를 실시간으로 감지합니다.

천체 물릭학의 새로운시대

불과 한 세기 전 아인슈타인은 자신의 혁명적 이론을 소개했습니다. 일반 상대성 이론. 아인슈타인도 그의 동시대 사람도 처음에는 어떤 자연적인 결과를 받아들였습니다. 블랙홀의 존재와 같은 이 이론의 중력파.

100년 후인 2015년 9월 14일, 레이저 간섭계 중력파 관측소(LIGO)의 쌍발 탐지기가 아인슈타인의 예측과 일치하는 신호를 감지했습니다. 한 쌍의 블랙홀과 그 결과 단일 블랙홀의 나선형 및 병합 블랙홀. 이러한 관찰을 통해 LIGO는 중력파와 블랙홀이 쌍성계를 형성할 수 있음을 증명했습니다.

현재까지 LIGO가 달성한 위업 총 4번. 그리고 최근에 LIGO 및 VIGRO 감지기가 처음으로 중력파 방출을 들었습니다. 두 개의 중성자 별의 충돌에 의해 - 관측 가능한 빛도 방출하는 우주 사건. 이 이벤트는 천체 물리학 사건을 동시에 보고 듣는 다중 메신저 천체 물리학의 시작.

중력파를 감지하고 특성화하는 것은 계산적으로 까다로운 작업입니다. LIGO 데이터 그리드는 세계는 잡음이 많은 데이터에서 중력파 신호를 검색하는 데 사용됩니다. 중력파를 가속하기 위해 천문 시설인 LIGO를 통해 대기 시간이 짧은 전자기 및 천체 입자 추적을 가능하게 합니다. 과학자들은 XSEDE, Blue Waters 및 Open을 포함한 고성능 및 처리량 컴퓨팅 리소스를 사용합니다.

과학 그리드.

신경망 훈련

다중 메신저 천문학의 경계를 넓히기 위해 과학자들은 딥 러닝과 NVIDIA® Tesla® GPU 를 사용하여 실시간으로 데이터를 캡처하고 분석하고 있습니다. 특히 NCSA Gravity Group의 과학자인 Daniel George와 Eliu Huerta는 15개 레이어를 실행하는 심층 CNN(Convolutional Neural Network)을 개발하고 훈련했습니다.

그런 다음, 그들 은 그것을 NVIDIA Tesla GPU의 MXNet 프레임워크. 무작위 검색으로 CNN의 아키텍처를 설계하는 데는 3주 동안 300시간. 추가로 10시간이 미세 조정에 필요합니다. 신호의 매개변수를 감지하고 추정하기 위해 분류기와 예측기의 두 가지 유형 의 신경망이 개발되었습니다.

분류기는 배경 잡음보다 진폭이 훨씬 약한 신호를 감지하고 예측기는 이 러한 신호에서 매우 낮은 오류율로 블랙홀의 질량을 추정합니다. NSCA 시스템이 훈련되고 조정되면 기존 및 AI 추론 방법과의 패턴 일치를 비교했습니다.

결과는 천 문학적이었습니다. CNN은 원시 시계열 데이터에서 최고의 성능을 발휘하여 추가 계산 단계를 건너뛰 어 속도를 높이고 대기 시간을 줄이는 데 기여했습니다. AI 추론 방식은 성능을 100배 향상시켰고 GPU는 AI 추론 성능을 50배 향상시켰다. 추론의 전반적인 이점 GPU 하드웨어와 결합된 방법은 3차 이상의 크기.

새로운 시스템은 실시간 허용 오차 내에서 결과를 제공하여 다중 센서 조정을 가능하게 했습니다. 또한, 이 새로운 패러다임은 새로운 발견을 가능하게 합니다. 현재 누락된 중력파 소스의 클래스 중력파 탐지 알고리즘 확립, 새로운 과학적 발견.

우주의 어두운 부문을 들여다보다

NVIDIA GPU에서 실행되는 훈련된 CNN은 탐색 기능을 제공합니다. LIGO를 사용한 중력파 소스의 더 깊은 매개변수 공간. 이것, 천체 관측을 조정하는 능력과 결합 할 수 없는 천체 물리학 현상의 연구를 가능하게 할 것입니다. 다른 수단을 통해 관찰할 수 있습니다.

“중력파 천체물리학은 다학제적 노력입니다. NCSA에서 HPC, HTC, 분석 및 수치 분야의 전문 지식을 결합합니다. 중력파 소스 모델링. 그런 다음 우리는 혁신적인 분야의 경계를 넓히기 위한 인공 지능의 응용. 우리의 NVIDIA와의 파트너십은 우리의 일상 연구 활동의 핵심 요소입니다.

" University of Illinois at Urbana-Champaign의 NCSA 중력 그룹 책임자인 Eliu Huerta 박사는 말했습니다. “실시간 분석을 가능하게 하는 것은 10대 빅데이터 중 하나인 멀티메신저 천체물리학 실현의 열쇠 미국 국립과학재단(National Science Foundation)을 위한 미래 투자에 대한 아이디어.”

2015년의 첫 번째 신호 감지부터 계산 방식의 발명까지 NVIDIA GPU를 사용한 집중적인 접근 방식, LIGO는 우리가 중력을 참조하십시오. 운영의 지난 16개월 동안 1,000명 이상의 LIGO Scientific Collaboration(LSC) 회원이 참여했습니다. 충돌에 의한 중력파 검출 그러나 세 쌍의 블랙홀.

LIGO 및 Virgo와 같은 고급 감지기 사용 우주 및 지상 기반 전자기와 함께 관찰 망원경, 중성미자, 우주선 탐지기 등 과학계와 천체물리학자들에게 무한한 기회를 주기 위해 모든 메신저를 통해 우주를 탐험하세요.

GPU 기반 더 똑똑하고 더 빠르게 시각적 검색

Bing은 Nvidia ㅣ술을 배포하여 개체 감지 속도를 높이고 실시간으로 적절한 결과를 제공합니다.

시작적 검색: 합당한 이유

시작적 검색은 차세대 검색 분야로 간주되며 Microsoft의 Bing은 Nvidia GPU의 성능을 활용하여 이를 현실로 만들었습니다. 동시에 NVIDIA CUDA 프로파일링 툴체인 및 cuDNN을 사용ㅎ여 시스템을 보다 비용 효율적으로 만듭니다.

그러나 규모에 따른 시각적 검색은 쉬운 일이 아닙니다. 사용자가 사진 내의 개체 위에 마우스를 높일 때 적절한 결과를 즉시 제공하려면 이미지 내의 이미지를 분류 감지 및 일치하도록 훈련된 알고리즘에 의한 방대한 계사이 필요합니다. 또한 노력할 가치가 있습니다.

Bing의 수석 엔지니어인 Yan Wang은 "사진은 천 마디 말도다 가치가 있습니다"라고 말했습니다.

그러나 지금까지는 당신이 찾던 것을 기다리는 데 오랜 시간이 걸렸습니다. 2015년 Bing은 사용자가 허위 이미지 주위에 상자를 그리거나 플랫폼에서 이미 감지한 하위 이미지 상자를 클릭할 수 있는 이미지 검색 기능을 도입했습니다. 그런 다음 해당 이미지를 새로운 검색의 기초를 사용할 수 있습니다.

Bing은 사용자의 기대에 부응할 수 있을 만큼 충분히 빠른 솔루션을 찾았습니다. 그들은 개체 감지 플랫폼을 CPU에서 NVIDIA Tesla M60 GPU 가속기를 실행하는 Azure NV 시리즈 가상 머신으로 전환했습니다.

이를 통해 Bing은 객체 감지 대기 시간을 CPU에서 2.5에서 200밀리초로 줄였습니다. NVIDIA cuDNN을 통한 추가 최적화는 대부분의 애플리케이션에서 우수한 사용자 경험 임계값보다 훨씬 낮은 40밀리초로 낮췄습니다.

우수한 경험 만들기

NVIDIA GPU로의 전환에 대한 보상은 즉각적이었고 추론 지연 시간은 즉시 10배 감소했습니다. 그러나 Bing의 엔지니어들은 여기서 멈추지 않았습니다.

NVIDIA cuDNN GPU 가속 딥 러닝 라이브러리를 코드에 통합하고 드라이버 모드를 Windows 디스플레이 드라이버 모델에서 Tesla 컴퓨팅 클러스터로 업데이트하여 대기 시간을 40밀리초로 줄여 총 60배의 성능 향상을 달성했습니다. 이미지에서 더 많은 객체 범주를 감지하기 위해 빠른 R-CNN 2단계 프로세스에서 1단계 "단일 샷 감지" 프로세스로 이동했습니다. 이를 통해 기능 속도가 10배 빨라지고 80개 이상의 이미지 범주를 감지할 수 있습니다.

Bing 팀은 또한 필터 트리거 모델과 Microsoft의 ObjectStore 키-값 저장소를 활용하여 향후 사용을 위해 결과를 처리하고 캐시하는데 필요한 데이터 양을 제한합니다. 이를 통해 비용의 90% 이상을 절약할 수 있어 매일 받는 요청을 보다 경제적으로 처리할 수 있습니다.

ing Visual Search에서 제공하는 사용자 경험은 이러한 추가 노력을 반영합니다. Bing 검색 페이지에서 사용자는 "이미지 검색"을 선택하고 텍스트를 입력하거나 사진을 업로드한 다음 사진에서 자동으로 감지된 핫스팟을 선택하거나 관심 있는 부분에 상자를 그려 거의 즉각적인 검색 결과를 트리거할 수 있습니다. 예를 들어 지갑 위에 상자를 그리는 것은 가격 책정과 함께 수많은 지갑 구매 기회를 생성합니다.

개발 및 배포 측면에서 NVIDIA GPU로의 전환은 Bing 팀이 더 민첩하고 학습 및 혁신 속도를 높일 수 있도록 지원했습니다. CPU를 사용하면 중요한 변경이 있을 때마다 수십억 개의 이미지로 구성된 전체 데이터 세트에서 업데이트된 모델을 실행하는 데 몇 달이 걸립니다. GPU를 사용하면 이제 이 프로세스가 즉각적이므로 모델을 자주 업데이트하고 Bing 사용자에게 더 많은 기능을 제공하는 것이 실용적입니다.

획기적인 순간 시각적 검색용

이제 실시간 개체 감지 및 시각적 검색이 가능하여 Bing Visual Search가 획기적인 순간이 되었습니다. 더 깊고 복잡한 모델을 처리할 수 있는 기능을 통해 Bing Visual Search는 더 많은 범주의 감지 가능한 개체를 지원할 수 있습니다. 그리고 백엔드 모델에 대한 더 빠른 업데이트로 Bing은 개발 측면에서 더 많은 노력을 기울일 수 있습니다.

Clemson University HPC 관리자

NGC 컨테이너로 HPC 클러스터 향상 프로비저닝

Srinath와 Clemson HPC 관리 팀은 다음을 제공하는 솔루션이 필요했습니다. 원활한 HPC 경험을 제공하고 IT와 연구원 모두의 효율성을 극대화합니다. 또한 작업을 단순화하고 사용자가 더 빨리 연구를 수행할 수 있도록 해야합니다.

NGC 컨테이너 레지스트리에서 소프트웨어 컨테이너를 찾았습니다. GPU 최적화 애플리케이션 컨테이너는 HPC 관리자의 수고를 덜어줍니다. 응용 프로그램 및 모든 관련 종속성은 기본 하드웨어 또는 설치된 기타 소프트웨어에 구애받지 않는 독립형 환경에 패키징됩니다.

따라서 컨테이너는 설치 프로세스를 제거하고 클러스터의 다른 애플리케이션에 영향을 주지 않고 애플리케이션 배포를 완료할 수 있습니다.

예를 들어 컨테이너를 사용하면 HPC 관리자가 VMD와 같은 다른 애플리케이션을 방해하지 않고 NAMD와 같은 애플리케이션을 업그레이드할 수 있습니다.

그리고 한 사용자가 최신 버전의 NAMD를 사용하고 다른 사용자가 이전 버전으로 계속 작업하기를 원하면 두 버전 모두 자체 컨테이너에서 병렬로 실행할 수 있으므로 연구원이 시뮬레이션에 접근하는 방식에 유연성을 제공합니다.

그리고 한 사용자가 최신 버전의 NAMD를 사용하고 다른 사용자가 이전 버전으로 계속 작업하기를 원하면 두 버전 모두 자체 컨테이너에서 병렬로 실행할 수 있으므로 연구원이 시뮬레이션에 접근하는 방식에 유연성을 제공합니다.

컨테이너가 HPC에 제공하는 또 다른 중요한 이점은 재현성입니다. 이는 연구원에게 주요 고려 사항이지만 베어 메탈 설정에서는 달성하기가 매우 어렵습니다. 컨테이너에서 실행되는 응용 프로그램은 항상 동일한 환경을 사용하기 때문에 성능을 재현하고 이식할 수 있으므로 사용자가 연구를 공유하고 기반으로 구축할 수 있습니다.

NGC 컨티에너 배포 손쉬운 Palmetto

Clemson은 이러한 모든 이점을 보았지만 아마도 가장 중요한 것은 Srinath와 HPC 관리 팀이 Palmetto 클러스터에 컨테이너를 배포합니다.

HPC 환경용으로 설계된 Singularity에서 NGC 컨테이너를 실행함으로써 Srinath는 사용자에게 NVIDIA GPU Cloud에서 컨테이너를 다운로드하고 Singularity에서 컨테이너를 실행하는 단계별 지침을 안내합니다.

NGC 컨테이너는 또한 사용자가 TensorFlow와 같은 소프트웨어의 빈번한 릴리스에 대한 업데이트를 요구할 때 Srinath와 그의 팀이 보다 신속하게 대응할 수 있도록 합니다. Srinath는 "NGC 컨테이너가 Singularity에서 작동한다는 사실 외에 NGC 컨테이너에서 가장 좋아하는 것 중 하나는 최신 버전의 애플리케이션을 사용할 수 있다는 점입니다."라고 말했습니다.

컨테이너 혜택 관리자 및 비슷한 사용자

조직이 NGC 컨테이너의 이점을 경험하는 데 오랜 시간이 걸리지 않았으며 Clemson은 IT 부서에서 집안일을 크게 줄이는 것부터 시작하여 수많은 성과를 즉시 깨달았습니다.

Srinath는 "소프트웨어 설치에 소요되는 시간을 줄임으로써 우선 순위가 더 높은 작업을 확실히 처리할수 있습니다."라고 말했습니다. "예를 들어 워크플로 개선 또는 코드 병렬화와 같은 실제 문제가 있는 연구원을 도울 수 있습니다."

분자 역학 연구를 위해 단백질, 지질 및 핵산을 시뮬레이션하는 GROMACS와 같은 응용 프로그램을 설치하는 데 반나절 이상을 소비하는 대신 사용자는 이제 응용 프로그램을 몇 분 안에 배포할 수 있습니다. 클러스터에서 실행하십시오. Srinath는 반나절 작업을 분 단위로 줄이는 비율이 대부분의앱을 설치하는데 걸리는 시간을 나타냅니다.