Machine Learning용 Databricks Runtime 14.3 LTS는 Databricks Runtime 14.3 LTS를 기반으로 기계 학습 및 데이터 과학을 위한 즉시 사용할 수 있는 환경을 제공합니다. Databricks Runtime ML에는 TensorFlow, PyTorch 및 XGBoost를 포함하여 널리 사용되는 많은 기계 학습 라이브러리가 포함되어 있습니다. Databricks Runtime ML에는 기계 학습 파이프라인을 자동으로 학습시키는 도구인 AutoML이 포함되어 있습니다. Databricks Runtime ML은 Horovod를 사용한 분산 딥 러닝 학습도 지원합니다.
주의
LTS는 이 버전이 장기 지원 중이라는 의미입니다. Databricks Runtime LTS 버전 수명 주기를 참조하세요.
팁
지원 종료(EoS)에 도달한 Databricks Runtime 버전에 대한 릴리스 정보를 확인하려면 지원 종료 Databricks Runtime 릴리스 정보를 참조하세요. EoS Databricks Runtime 버전은 폐기되었으며 업데이트되지 않을 수 있습니다.
새로운 기능 및 향상 기능
Databricks Runtime 14.3 LTS ML은 Databricks Runtime 14.3 LTS를 기반으로 빌드됩니다. Apache Spark MLlib 및 SparkR을 비롯한 Databricks Runtime 14.3 LTS의 새로운 내용에 대한 자세한 내용은 Databricks Runtime 14.3 LTS 릴리스 정보를 참조하세요.
시스템 환경
Databricks Runtime 14.3 LTS ML의 시스템 환경은 다음과 같이 Databricks Runtime 14.3 LTS와 다릅니다.
- GPU 클러스터의 경우 Databricks Runtime ML에는 다음과 같은 NVIDIA GPU 라이브러리가 포함됩니다.
- CUDA 11.8
- cuDNN 8.9.0.131-1
- NCCL 2.15.5
- TensorRT 8.5.3-1
Databricks Runtime 14.3 LTS ML에는 컴퓨팅 기능이 5.2 이하인 GPU 클러스터를 지원하지 않는 XGBoost 1.7.6이 포함되어 있습니다.
라이브러리
다음 섹션에서는 Databricks Runtime 14.3 LTS에 포함된 라이브러리와 다른 Databricks Runtime 14.3 LTS ML에 포함된 라이브러리를 나열합니다.
이 구역의 내용:
최상위 계층 라이브러리
Databricks Runtime 14.3 LTS ML에는 다음과 같은 최상위 계층 라이브러리가 포함되어 있습니다.
- GraphFrames
- Horovod 및 HorovodRunner
- MLflow
- PyTorch
- spark-tensorflow-connector (스파크-텐서플로우-커넥터)
- Tensorflow
- TensorBoard
- Scikit-learn
Python 라이브러리
Databricks Runtime 14.3 LTS ML은 Python 패키지 관리를 위해 virtualenv를 사용하며, 널리 사용되는 많은 ML 패키지를 포함합니다.
다음 섹션에 지정된 패키지 외에도 Databricks Runtime 14.3 LTS ML에는 다음 패키지가 포함되어 있습니다.
- hyperopt 0.2.7+db4
- sparkdl 3.0.0_db1
- automl 1.24.0
로컬 Python 가상 환경에서 Databricks Runtime ML Python 환경을 재현하려면 requirements-14.3.txt 파일을 다운로드하고 실행pip install -r requirements-14.3.txt합니다. 이 명령은 Databricks Runtime ML이 사용하는 모든 오픈 소스 라이브러리를 설치하지만 databricks-automl, databricks-feature-store 또는 hyperopt의 Databricks 포크와 같은 Databricks에서 개발한 라이브러리는 설치하지 않습니다.
CPU 클러스터의 Python 라이브러리
| 라이브러리 | 버전 | 라이브러리 | 버전 | 라이브러리 | 버전 |
|---|---|---|---|---|---|
| absl-py | 1.0.0 | 가속하다 | 0.25.0 | aiohttp | 3.9.1 |
| aiosignal | 1.3.1 | 애니오 | 3.5.0 | 애플리케이션 디렉토리 | 1.4.4 |
| argon2-cffi | 21.3.0 | argon2-cffi-bindings (아르곤2-CFFI 바인딩) | 21.2.0 | 아스토르 | 0.8.1 |
| 에이에스티토큰 | 2.0.5 | astunparse (파이썬 코드 분석 라이브러리) | 1.6.3 | 비동기-타임아웃 | 4.0.3 |
| 속성 | 22.1.0 | 오디오 읽기 | 3.0.1 | 애저 코어 | 1.29.1 |
| azure-cosmos | 4.3.1 | azure-storage-blob (애저 스토리지 블롭) | 12.19.0 | azure-storage-file-datalake (아주르 스토리지 파일 데이터레이크) | 12.14.0 |
| 백콜 | 0.2.0 | bcrypt (비크립트) | 3.2.0 | beautifulsoup4 | 4.11.1 |
| 검정색 | 22.6.0 | 표백제 | 4.1.0 | 깜박이 | 1.4 |
| 기쁨 | 0.7.11 | boto3 | 1.24.28 | 보토코어 | 1.27.96 |
| 캐시툴즈 (cachetools) | 5.3.2 | 카탈로그 | 2.0.10 | 카테고리 인코더 | 2.6.3 |
| 서티피 | 2022.12.7 | cffi | 1.15.1 | 챠데트 | 4.0.0 |
| 문자셋 정규화기 | 2.0.4 | 클릭 | 8.0.4 | cloudpathlib | 0.16.0 |
| cloudpickle (클라우드피클) | 2.0.0 | cmdstanpy | 1.2.0 | 콤 | 0.1.2 |
| 과자 | 0.1.4 | 컨피그파서 | 5.2.0 | 컨투어파이 | 1.0.5 |
| 암호화 | 39.0.1 | 사이클러 | 0.11.0 | 사이멤 | 2.0.8 |
| 사이톤 (Cython) | 0.29.32 | 다사이트 | 1.8.1 | 데이터브릭스-오토ML-런타임 | 0.2.20 |
| databricks-cli (데이터브릭스 명령줄 인터페이스) | 0.18.0 | databricks 특징 엔지니어링 | 0.2.0 | 데이터브릭스 SDK (소프트웨어 개발 키트) | 0.1.6 |
| 데이터클래스-제이슨 (dataclasses-json) | 0.6.3 | 데이터 세트 | 2.15.0 | dbl-tempo | 0.1.26 |
| dbus-python | 1.2.18 | debugpy | 1.6.7 | 데코레이터 | 5.1.1 |
| 딥스피드 | 0.12.4 | defusedxml (디퓨즈드 XML) | 0.7.1 | 딜 | 0.3.6 |
| 디스크 캐시 | 5.6.3 | distlib (디스트립 라이브러리) | 0.3.7 | docstring-to-markdown (도크스트링을 마크다운으로) | 0.11 |
| 진입점 | 0.4 | 평가하다 | 0.4.1 | 실행 중 | 0.8.3 |
| 특성 개요 | 1.1.1 | fastjsonschema (파스트제이슨스키마) | 2.19.1 | 패스트텍스트 (fasttext) | 0.9.2 |
| 파일 잠금 | 3.9.0 | 플라스크 (Flask) | 2.2.5 | flatbuffers (플랫버퍼스) | 23년 5월 26일 |
| 폰트툴즈 (fonttools) | 4.25.0 | 프로즌리스트 (frozenlist) | 1.4.1 | fsspec | 2023.6.0 |
| 미래 | 0.18.3 | 가스트 | 0.4.0 | GitDB (기트 데이터베이스) | 4.0.11 |
| GitPython | 3.1.27 | google-api-core (구글 API 핵심) | 2.15.0 | 구글 인증 | 2.21.0 |
| google-auth-oauthlib (구글 인증 OAuth 라이브러리) | 1.0.0 | google-cloud-core (구글 클라우드 코어) | 2.4.1 | Google 클라우드 스토리지 | 2.11.0 |
| google-crc32c (구글의 CRC32C 알고리즘) | 1.5.0 | 구글-파스타 | 0.2.0 | google-resumable-media (구글 재개 가능한 미디어) | 2.7.0 |
| googleapis-common-protos | 1.62.0 | greenlet (그린렛) | 2.0.1 | grpcio (Python용 gRPC 패키지) | 1.48.2 |
| grpcio-status | 1.48.1 | 구니콘 (gunicorn) | 20.1.0 | gviz-api | 1.10.0 |
| h5py | 3.7.0 | hjson | 3.1.0 | 휴일 | 0.38 |
| horovod (분산 학습 프레임워크) | 0.28.1 | htmlmin | 0.1.12 | httplib2 | 0.20.2 |
| 허깅페이스-허브 | 0.19.4 | 아이드나 | 3.4 | 이미지해시 | 4.3.1 |
| imbalanced-learn (불균형 데이터 학습 라이브러리) | 0.11.0 | importlib-metadata | 4.11.3 | importlib-resources | 6.1.1 |
| ipykernel | 6.25.0 | ipython | 8.14.0 | ipython-genutils (아이파이썬 젠유틸스) | 0.2.0 |
| ipywidgets (아이파이위젯) | 7.7.2 | 아이소데이트 (isodate) | 0.6.1 | 위험하다 | 2.0.1 |
| Jedi | 0.18.1 | 지프니(필리핀의 대중교통) | 0.7.1 | Jinja2 | 3.1.2 |
| jmespath | 0.10.0 | joblib (잡리브) | 1.2.0 | joblibspark | 0.5.1 |
| jsonpatch (JSON 패치) | 1.33 | jsonpointer (JSON 포인터) | 2.4 | JSON 스키마 | 4.17.3 |
| 주피터-클라이언트 (jupyter-client) | 7.3.4 | 주피터 서버 | 1.23.4 | 주피터 코어 (jupyter_core) | 5.2.0 |
| jupyterlab-pygments | 0.1.2 | 주피터랩 위젯 | 1.0.0 | Keras | 2.14.0 |
| 열쇠고리 | 23.5.0 | 키위솔버 (kiwisolver) | 1.4.4 | langchain | 0.0.348 |
| langchain-core | 0.0.13 | 언어 코드 | 3.3.0 | langsmith | 0.0.79 |
| launchpadlib (런치패드 라이브러리) | 1.10.16 | lazr.restfulclient | 0.14.4 | lazr.uri | 1.0.6 |
| 레이지 로더 | 0.3 | libclang | 15.0.6.1 | librosa (리브로사) | 0.10.1 |
| lightgbm | 4.1.0 | llvmlite | 0.39.1 | lxml | 4.9.1 |
| 마코 (Mako) | 1.2.0 | 마크다운 | 3.4.1 | MarkupSafe (마크업세이프) | 2.1.1 |
| 마시멜로 | 3.20.2 | matplotlib (매트플롯립) | 3.7.0 | matplotlib-inline (매트플롯립-인라인) | 0.1.6 |
| 맥케이브 | 0.7.0 | 잘못 조율하다 | 0.8.4 | ml-dtypes | 0.2.0 |
| mlflow-스키니 | 2.9.2 | more-itertools (모어 이터툴즈) | 8.10.0 | mpmath | 1.2.1 |
| 메시지팩 (MessagePack) | 1.0.7 | 다중 사전 | 6.0.4 | 다중 방법 | 1.10 |
| 멀티프로세스 | 0.70.14 | 머머해시 (murmurhash) | 1.0.10 | mypy-extensions (마이파이-익스텐션) | 0.4.3 |
| nbclassic | 0.5.2 | nb클라이언트 | 0.5.13 | nbconvert | 6.5.4 |
| nbformat | 5.7.0 | nest-asyncio (파이썬 비동기 I/O 라이브러리) | 1.5.6 | 네트워크엑스 | 2.8.4 |
| 닌자 | 1.11.1.1 | nltk (자연언어처리 도구) | 3.7 | nodeenv | 1.8.0 |
| 노트북 | 6.5.2 | 노트북_쉼 | 0.2.2 | 넘바 | 0.56.4 |
| numpy (파이썬의 수치 계산용 라이브러리) | 1.23.5 | oauthlib | 3.2.0 | 오픈AI | 0.28.1 |
| opt-einsum | 3.3.0 | 패키징 | 23.2 | 팬더 | 1.5.3 |
| pandocfilters | 1.5.0 | 판미코 (Paramiko라는 Python 라이브러리) | 2.9.2 | 파르소 | 0.8.3 |
| 패스스펙 (pathspec) | 0.10.3 | 바보 | 0.5.3 | 페타스톰 | 0.12.1 |
| pexpect (피엑스펙트) | 4.8.0 | 피크 (phik) | 0.12.4 | 픽클쉐어 | 0.7.5 |
| 베개 | 9.4.0 | 파이썬 패키지 설치 도구 pip | 22.3.1 | 플랫폼 디렉토리 | 2.5.2 |
| plotly (데이터 시각화 라이브러리) | 5.9.0 | 플러기 | 1.0.0 | pmdarima | 2.0.4 |
| 강아지 | 1.4.0 | 프레셰드 | 3.0.9 | prometheus-client | 0.14.1 |
| prompt-toolkit (프롬프트 도구 키트) | 3.0.36 | 예언자 | 1.1.5 | 프로토버프 (protobuf) | 4.24.0 |
| psutil (시스템 및 프로세스 유틸리티용 Python 라이브러리) | 5.9.0 | psycopg2 | 2.9.3 | PtyProcess | 0.7.0 |
| pure-eval | 0.2.2 | py-cpuinfo (파이-씨피유인포) | 9.0.0 | pyarrow | 8.0.0 |
| pyarrow-hotfix (긴급 수정 패치) | 0.5 | pyasn1 | 0.4.8 | pyasn1-modules | 0.2.8 |
| pybind11 | 2.11.1 | pycparser | 2.21 | pydantic (파이썬 데이터 검증 및 설정 관리 라이브러리) | 1.10.6 |
| pyflakes (파이플레이크스) | 3.1.0 | 파이그먼츠 | 2.11.2 | PyGObject | 3.42.1 |
| PyJWT | 2.3.0 | PyNaCl | 1.5.0 | pynvml (파이엔브이엠엘) | 11.5.0 |
| 파이썬 ODBC 라이브러리 pyodbc | 4.0.32 | pyparsing (파이썬 파싱 라이브러리) | 3.0.9 | 피라이트(Pyright) | 1.1.294 |
| pyrsistent | 0.18.0 | pytesseract (파이테서랙트) | 0.3.10 | python-dateutil (파이썬 날짜 유틸) | 2.8.2 |
| 파이썬 편집기 | 1.0.4 | 파이썬-LSP-JSON-RPC | 1.1.1 | python-lsp-server (파이썬 LSP 서버) | 1.8.0 |
| 파이툴콘피그 (pytoolconfig) | 1.2.5 | pytz (파이썬의 타임존 계산을 위한 라이브러리) | 2022년 7월 | PyWavelets | 1.4.1 |
| PyYAML | 6.0 | pyzmq | 23.2.0 | 정규식 | 2022.7.9 |
| 요청 | 2.28.1 | requests-oauthlib | 1.3.1 | 응답 | 0.18.0 |
| 밧줄 | 1.7.0 | RSA (암호화 알고리즘) | 4.9 | s3transfer | 0.6.2 |
| safetensors (세이프텐서) | 0.4.1 | scikit-learn (파이썬 머신러닝 라이브러리) | 1.1.1 | scipy (과학 컴퓨팅 라이브러리) | 1.10.0 |
| 바다에서 태어난 | 0.12.2 | SecretStorage | 3.3.1 | Send2Trash | 1.8.0 |
| sentence-transformers (문장 변환기) | 2.2.2 | sentencepiece (문장 조각 알고리즘) | 0.1.99 | setuptools (세트업툴즈) | 65.6.3 |
| 샤프 | 0.44.0 | simplejson | 3.17.6 | 6 | 1.16.0 |
| 슬라이서 | 0.0.7 | 스마트-오픈 | 5.2.1 | 스맵 | 5.0.0 |
| 스니피오 | 1.2.0 | 사운드파일 | 0.12.1 | 수프 체 | 2.3.2.post1 |
| 소크스 (soxr) | 0.3.7 | 넓은 | 3.7.2 | 스페이시-레거시 | 3.0.12 |
| 스페이시 로거즈 | 1.0.5 | 스파크-텐서플로-디스트리뷰터 | 1.0.0 | SQLAlchemy | 1.4.39 |
| sqlparse | 0.4.2 | 진짜로 | 2.4.8 | ssh-import-id 명령어 | 5.11 |
| 스택 데이터 | 0.2.0 | 스타니오 | 0.3.0 | statsmodels (파이썬 통계 모형 라이브러리) | 0.13.5 |
| sympy (심볼릭 수학 라이브러리) | 1.11.1 | 표로 만들다 | 0.8.10 | 유니코드 얽힘 | 0.2.0 |
| 끈기 | 8.1.0 | 텐서보드 | 2.14.1 | tensorboard-data-server (텐서보드 데이터 서버) | 0.7.2 |
| tensorboard-plugin-profile (텐서보드 플러그인 프로파일) | 2.14.0 | 텐서플로-CPU | 2.14.1 | 텐서플로우 에스티메이터 (tensorflow-estimator) | 2.14.0 |
| tensorflow-io-gcs-filesystem (텐서플로우 입출력-GCS 파일 시스템) | 0.35.0 | 터칼라 (termcolor) | 2.4.0 | 완료 | 0.17.1 |
| Thinc | 8.2.2 | threadpoolctl | 2.2.0 | tiktoken (틱토큰) | 0.5.2 |
| tinycss2 | 1.2.1 | 토크나이즈-RT | 4.2.1 | 토크나이저 (단어를 분리하는 도구) | 0.15.0 |
| tomli | 2.0.1 | 손전등 (or 횃불 depending on context) | 2.0.1+cpu | 토치비전 | 0.15.2+cpu |
| 토네이도 | 6.1 | tqdm | 4.64.1 | 트레잇렛츠 | 5.7.1 |
| 변환기 | 4.36.1 | 타입가드 | 2.13.3 | 타이퍼 | 0.9.0 |
| 타이핑 검사 | 0.9.0 | 타이핑_익스텐션 | 4.4.0 | ujson (파이썬에서 JSON 직렬화를 위한 라이브러리) | 5.4.0 |
| 무인 업그레이드 (unattended-upgrades) | 0.1 | urllib3 | 1.26.14 | virtualenv | 20.16.7 |
| 비전 | 0.7.5 | wadllib | 1.3.6 | 와사비 | 1.1.2 |
| wcwidth(문자의 너비를 계산하는 함수) | 0.2.5 | 족제비 | 0.3.4 | 웹인코딩스 | 0.5.1 |
| 웹소켓 클라이언트 | 0.58.0 | 도구 | 2.2.2 | 왓더패치 | 1.0.2 |
| 바퀴 | 0.38.4 | widgetsnbextension (위젯 확장 프로그램) | 3.6.1 | 워드클라우드 | 1.9.3 |
| 감싼 | 1.14.1 | xgboost | 1.76 | xxhash | 3.4.1 |
| yapf | 0.33.0 | yarl | 1.9.4 | ydata-프로파일링 | 4.2.0 |
| 지프 | 3.11.0 |
GPU 클러스터의 Python 라이브러리
| 라이브러리 | 버전 | 라이브러리 | 버전 | 라이브러리 | 버전 |
|---|---|---|---|---|---|
| absl-py | 1.0.0 | 가속하다 | 0.25.0 | aiohttp | 3.9.1 |
| aiosignal | 1.3.1 | 애니오 | 3.5.0 | 애플리케이션 디렉토리 | 1.4.4 |
| argon2-cffi | 21.3.0 | argon2-cffi-bindings (아르곤2-CFFI 바인딩) | 21.2.0 | 아스토르 | 0.8.1 |
| 에이에스티토큰 | 2.0.5 | astunparse (파이썬 코드 분석 라이브러리) | 1.6.3 | 비동기-타임아웃 | 4.0.3 |
| 속성 | 22.1.0 | 오디오 읽기 | 3.0.1 | 애저 코어 | 1.29.1 |
| azure-cosmos | 4.3.1 | azure-storage-blob (애저 스토리지 블롭) | 12.19.0 | azure-storage-file-datalake (아주르 스토리지 파일 데이터레이크) | 12.14.0 |
| 백콜 | 0.2.0 | bcrypt (비크립트) | 3.2.0 | beautifulsoup4 | 4.11.1 |
| 검정색 | 22.6.0 | 표백제 | 4.1.0 | 깜박이 | 1.4 |
| 기쁨 | 0.7.11 | boto3 | 1.24.28 | 보토코어 | 1.27.96 |
| 캐시툴즈 (cachetools) | 5.3.2 | 카탈로그 | 2.0.10 | 카테고리 인코더 | 2.6.3 |
| 서티피 | 2022.12.7 | cffi | 1.15.1 | 챠데트 | 4.0.0 |
| 문자셋 정규화기 | 2.0.4 | 클릭 | 8.0.4 | cloudpathlib | 0.16.0 |
| cloudpickle (클라우드피클) | 2.0.0 | cmake | 3.28.1 | cmdstanpy | 1.2.0 |
| 콤 | 0.1.2 | 과자 | 0.1.4 | 컨피그파서 | 5.2.0 |
| 컨투어파이 | 1.0.5 | 암호화 | 39.0.1 | 사이클러 | 0.11.0 |
| 사이멤 | 2.0.8 | 사이톤 (Cython) | 0.29.32 | 다사이트 | 1.8.1 |
| 데이터브릭스-오토ML-런타임 | 0.2.20 | databricks-cli (데이터브릭스 명령줄 인터페이스) | 0.18.0 | databricks 특징 엔지니어링 | 0.2.0 |
| 데이터브릭스 SDK (소프트웨어 개발 키트) | 0.1.6 | 데이터클래스-제이슨 (dataclasses-json) | 0.6.3 | 데이터 세트 | 2.15.0 |
| dbl-tempo | 0.1.26 | dbus-python | 1.2.18 | debugpy | 1.6.7 |
| 데코레이터 | 5.1.1 | 딥스피드 | 0.12.4 | defusedxml (디퓨즈드 XML) | 0.7.1 |
| 딜 | 0.3.6 | 디스크 캐시 | 5.6.3 | distlib (디스트립 라이브러리) | 0.3.7 |
| docstring-to-markdown (도크스트링을 마크다운으로) | 0.11 | einops | 0.7.0 | 진입점 | 0.4 |
| 평가하다 | 0.4.1 | 실행 중 | 0.8.3 | 특성 개요 | 1.1.1 |
| fastjsonschema (파스트제이슨스키마) | 2.19.1 | 패스트텍스트 (fasttext) | 0.9.2 | 파일 잠금 | 3.9.0 |
| 플래시-어텐션 | 2.3.6 | 플라스크 (Flask) | 2.2.5 | flatbuffers (플랫버퍼스) | 23년 5월 26일 |
| 폰트툴즈 (fonttools) | 4.25.0 | 프로즌리스트 (frozenlist) | 1.4.1 | fsspec | 2023.6.0 |
| 미래 | 0.18.3 | 가스트 | 0.4.0 | GitDB (기트 데이터베이스) | 4.0.11 |
| GitPython | 3.1.27 | google-api-core (구글 API 핵심) | 2.15.0 | 구글 인증 | 2.21.0 |
| google-auth-oauthlib (구글 인증 OAuth 라이브러리) | 1.0.0 | google-cloud-core (구글 클라우드 코어) | 2.4.1 | Google 클라우드 스토리지 | 2.11.0 |
| google-crc32c (구글의 CRC32C 알고리즘) | 1.5.0 | 구글-파스타 | 0.2.0 | google-resumable-media (구글 재개 가능한 미디어) | 2.7.0 |
| googleapis-common-protos | 1.62.0 | greenlet (그린렛) | 2.0.1 | grpcio (Python용 gRPC 패키지) | 1.48.2 |
| grpcio-status | 1.48.1 | 구니콘 (gunicorn) | 20.1.0 | gviz-api | 1.10.0 |
| h5py | 3.7.0 | hjson | 3.1.0 | 휴일 | 0.38 |
| horovod (분산 학습 프레임워크) | 0.28.1 | htmlmin | 0.1.12 | httplib2 | 0.20.2 |
| 허깅페이스-허브 | 0.19.4 | 아이드나 | 3.4 | 이미지해시 | 4.3.1 |
| imbalanced-learn (불균형 데이터 학습 라이브러리) | 0.11.0 | importlib-metadata | 4.11.3 | importlib-resources | 6.1.1 |
| ipykernel | 6.25.0 | ipython | 8.14.0 | ipython-genutils (아이파이썬 젠유틸스) | 0.2.0 |
| ipywidgets (아이파이위젯) | 7.7.2 | 아이소데이트 (isodate) | 0.6.1 | 위험하다 | 2.0.1 |
| Jedi | 0.18.1 | 지프니(필리핀의 대중교통) | 0.7.1 | Jinja2 | 3.1.2 |
| jmespath | 0.10.0 | joblib (잡리브) | 1.2.0 | joblibspark | 0.5.1 |
| jsonpatch (JSON 패치) | 1.33 | jsonpointer (JSON 포인터) | 2.4 | JSON 스키마 | 4.17.3 |
| 주피터-클라이언트 (jupyter-client) | 7.3.4 | 주피터 서버 | 1.23.4 | 주피터 코어 (jupyter_core) | 5.2.0 |
| jupyterlab-pygments | 0.1.2 | 주피터랩 위젯 | 1.0.0 | Keras | 2.14.0 |
| 열쇠고리 | 23.5.0 | 키위솔버 (kiwisolver) | 1.4.4 | langchain | 0.0.348 |
| langchain-core | 0.0.13 | 언어 코드 | 3.3.0 | langsmith | 0.0.79 |
| launchpadlib (런치패드 라이브러리) | 1.10.16 | lazr.restfulclient | 0.14.4 | lazr.uri | 1.0.6 |
| 레이지 로더 | 0.3 | libclang | 15.0.6.1 | librosa (리브로사) | 0.10.1 |
| lightgbm | 4.1.0 | 불타는 | 17.0.6 | llvmlite | 0.39.1 |
| lxml | 4.9.1 | 마코 (Mako) | 1.2.0 | 마크다운 | 3.4.1 |
| MarkupSafe (마크업세이프) | 2.1.1 | 마시멜로 | 3.20.2 | matplotlib (매트플롯립) | 3.7.0 |
| matplotlib-inline (매트플롯립-인라인) | 0.1.6 | 맥케이브 | 0.7.0 | 잘못 조율하다 | 0.8.4 |
| ml-dtypes | 0.2.0 | mlflow-스키니 | 2.9.2 | more-itertools (모어 이터툴즈) | 8.10.0 |
| mpmath | 1.2.1 | 메시지팩 (MessagePack) | 1.0.7 | 다중 사전 | 6.0.4 |
| 다중 방법 | 1.10 | 멀티프로세스 | 0.70.14 | 머머해시 (murmurhash) | 1.0.10 |
| mypy-extensions (마이파이-익스텐션) | 0.4.3 | nbclassic | 0.5.2 | nb클라이언트 | 0.5.13 |
| nbconvert | 6.5.4 | nbformat | 5.7.0 | nest-asyncio (파이썬 비동기 I/O 라이브러리) | 1.5.6 |
| 네트워크엑스 | 2.8.4 | 닌자 | 1.11.1.1 | nltk (자연언어처리 도구) | 3.7 |
| nodeenv | 1.8.0 | 노트북 | 6.5.2 | 노트북_쉼 | 0.2.2 |
| 넘바 | 0.56.4 | numpy (파이썬의 수치 계산용 라이브러리) | 1.23.5 | oauthlib | 3.2.0 |
| 오픈AI | 0.28.1 | opt-einsum | 3.3.0 | 패키징 | 23.2 |
| 팬더 | 1.5.3 | pandocfilters | 1.5.0 | 판미코 (Paramiko라는 Python 라이브러리) | 2.9.2 |
| 파르소 | 0.8.3 | 패스스펙 (pathspec) | 0.10.3 | 바보 | 0.5.3 |
| 페타스톰 | 0.12.1 | pexpect (피엑스펙트) | 4.8.0 | 피크 (phik) | 0.12.4 |
| 픽클쉐어 | 0.7.5 | 베개 | 9.4.0 | 파이썬 패키지 설치 도구 pip | 22.3.1 |
| 플랫폼 디렉토리 | 2.5.2 | plotly (데이터 시각화 라이브러리) | 5.9.0 | 플러기 | 1.0.0 |
| pmdarima | 2.0.4 | 강아지 | 1.4.0 | 프레셰드 | 3.0.9 |
| prompt-toolkit (프롬프트 도구 키트) | 3.0.36 | 예언자 | 1.1.5 | 프로토버프 (protobuf) | 4.24.0 |
| psutil (시스템 및 프로세스 유틸리티용 Python 라이브러리) | 5.9.0 | psycopg2 | 2.9.3 | PtyProcess | 0.7.0 |
| pure-eval | 0.2.2 | py-cpuinfo (파이-씨피유인포) | 9.0.0 | pyarrow | 8.0.0 |
| pyarrow-hotfix (긴급 수정 패치) | 0.5 | pyasn1 | 0.4.8 | pyasn1-modules | 0.2.8 |
| pybind11 | 2.11.1 | pycparser | 2.21 | pydantic (파이썬 데이터 검증 및 설정 관리 라이브러리) | 1.10.6 |
| pyflakes (파이플레이크스) | 3.1.0 | 파이그먼츠 | 2.11.2 | PyGObject | 3.42.1 |
| PyJWT | 2.3.0 | PyNaCl | 1.5.0 | pynvml (파이엔브이엠엘) | 11.5.0 |
| 파이썬 ODBC 라이브러리 pyodbc | 4.0.32 | pyparsing (파이썬 파싱 라이브러리) | 3.0.9 | 피라이트(Pyright) | 1.1.294 |
| pyrsistent | 0.18.0 | pytesseract (파이테서랙트) | 0.3.10 | python-dateutil (파이썬 날짜 유틸) | 2.8.2 |
| 파이썬 편집기 | 1.0.4 | 파이썬-LSP-JSON-RPC | 1.1.1 | python-lsp-server (파이썬 LSP 서버) | 1.8.0 |
| 파이툴콘피그 (pytoolconfig) | 1.2.5 | pytz (파이썬의 타임존 계산을 위한 라이브러리) | 2022년 7월 | PyWavelets | 1.4.1 |
| PyYAML | 6.0 | pyzmq | 23.2.0 | 정규식 | 2022.7.9 |
| 요청 | 2.28.1 | requests-oauthlib | 1.3.1 | 응답 | 0.18.0 |
| 밧줄 | 1.7.0 | RSA (암호화 알고리즘) | 4.9 | s3transfer | 0.6.2 |
| safetensors (세이프텐서) | 0.4.1 | scikit-learn (파이썬 머신러닝 라이브러리) | 1.1.1 | scipy (과학 컴퓨팅 라이브러리) | 1.10.0 |
| 바다에서 태어난 | 0.12.2 | SecretStorage | 3.3.1 | Send2Trash | 1.8.0 |
| sentence-transformers (문장 변환기) | 2.2.2 | sentencepiece (문장 조각 알고리즘) | 0.1.99 | setuptools (세트업툴즈) | 65.6.3 |
| 샤프 | 0.44.0 | simplejson | 3.17.6 | 6 | 1.16.0 |
| 슬라이서 | 0.0.7 | 스마트-오픈 | 5.2.1 | 스맵 | 5.0.0 |
| 스니피오 | 1.2.0 | 사운드파일 | 0.12.1 | 수프 체 | 2.3.2.post1 |
| 소크스 (soxr) | 0.3.7 | 넓은 | 3.7.2 | 스페이시-레거시 | 3.0.12 |
| 스페이시 로거즈 | 1.0.5 | 스파크-텐서플로-디스트리뷰터 | 1.0.0 | SQLAlchemy | 1.4.39 |
| sqlparse | 0.4.2 | 진짜로 | 2.4.8 | ssh-import-id 명령어 | 5.11 |
| 스택 데이터 | 0.2.0 | 스타니오 | 0.3.0 | statsmodels (파이썬 통계 모형 라이브러리) | 0.13.5 |
| sympy (심볼릭 수학 라이브러리) | 1.11.1 | 표로 만들다 | 0.8.10 | 유니코드 얽힘 | 0.2.0 |
| 끈기 | 8.1.0 | 텐서보드 | 2.14.1 | tensorboard-data-server (텐서보드 데이터 서버) | 0.7.2 |
| tensorboard-plugin-profile (텐서보드 플러그인 프로파일) | 2.14.0 | 텐서플로우 | 2.14.1 | 텐서플로우 에스티메이터 (tensorflow-estimator) | 2.14.0 |
| tensorflow-io-gcs-filesystem (텐서플로우 입출력-GCS 파일 시스템) | 0.35.0 | 터칼라 (termcolor) | 2.4.0 | 완료 | 0.17.1 |
| Thinc | 8.2.2 | threadpoolctl | 2.2.0 | tiktoken (틱토큰) | 0.5.2 |
| tinycss2 | 1.2.1 | 토크나이즈-RT | 4.2.1 | 토크나이저 (단어를 분리하는 도구) | 0.15.0 |
| tomli | 2.0.1 | 손전등 (or 횃불 depending on context) | 2.0.1+cu118 | 토치비전 | 0.15.2+cu118 |
| 토네이도 | 6.1 | tqdm | 4.64.1 | 트레잇렛츠 | 5.7.1 |
| 변환기 | 4.36.1 | 트리톤 | 2.0.0 | 타입가드 | 2.13.3 |
| 타이퍼 | 0.9.0 | 타이핑 검사 | 0.9.0 | 타이핑_익스텐션 | 4.4.0 |
| ujson (파이썬에서 JSON 직렬화를 위한 라이브러리) | 5.4.0 | 무인 업그레이드 (unattended-upgrades) | 0.1 | urllib3 | 1.26.14 |
| virtualenv | 20.16.7 | 비전 | 0.7.5 | wadllib | 1.3.6 |
| 와사비 | 1.1.2 | wcwidth(문자의 너비를 계산하는 함수) | 0.2.5 | 족제비 | 0.3.4 |
| 웹인코딩스 | 0.5.1 | 웹소켓 클라이언트 | 0.58.0 | 도구 | 2.2.2 |
| 왓더패치 | 1.0.2 | 바퀴 | 0.38.4 | widgetsnbextension (위젯 확장 프로그램) | 3.6.1 |
| 워드클라우드 | 1.9.3 | 감싼 | 1.14.1 | xgboost | 1.76 |
| xxhash | 3.4.1 | yapf | 0.33.0 | yarl | 1.9.4 |
| ydata-프로파일링 | 4.2.0 | 지프 | 3.11.0 |
R 라이브러리
R 라이브러리는 Databricks Runtime 14.3 LTS의 R 라이브러리와 동일합니다.
Java 및 Scala 라이브러리(Scala 2.12 클러스터)
Databricks Runtime 14.3 LTS의 Java 및 Scala 라이브러리 외에도 Databricks Runtime 14.3 LTS ML에는 다음 JAR이 포함됩니다.
CPU 클러스터
| 그룹 아이디 | 아티팩트 ID | 버전 |
|---|---|---|
| com.typesafe.akka | akka-actor_2.12 | 2.5.23 |
| ml.dmlc | xgboost4j-spark_2.12 | 1.7.3 |
| ml.dmlc | xgboost4j_2.12 | 1.7.3 |
| org.graphframes | graphframes_2.12 | 0.8.2-db2-spark3.4 |
| org.mlflow | mlflow-client | 2.9.2 |
| org.scala-lang.modules | scala-java8-compat_2.12 | 0.8.0 |
| org.tensorflow | Spark 텐서플로우 커넥터_2.12 | 1.15.0 |
GPU 클러스터
| 그룹 아이디 | 아티팩트 ID | 버전 |
|---|---|---|
| com.typesafe.akka | akka-actor_2.12 | 2.5.23 |
| ml.dmlc | xgboost4j-gpu_2.12 | 1.7.3 |
| ml.dmlc | xgboost4j-spark-gpu_2.12 | 1.7.3 |
| org.graphframes | graphframes_2.12 | 0.8.2-db2-spark3.4 |
| org.mlflow | mlflow-client | 2.9.2 |
| org.scala-lang.modules | scala-java8-compat_2.12 | 0.8.0 |
| org.tensorflow | Spark 텐서플로우 커넥터_2.12 | 1.15.0 |