如果你需要关于Karpathy的nanochat的视频指南，请查看斯坦福大学的CS336课程！ 它涵盖了： - 代币化 - 资源核算 - 预训练 - 微调（SFT/RLHF） - 关键架构概述 - 使用GPU - 内核和Tritons - 并行性 - 规模法则 - 推理 - 评估 - 对齐 你所需的一切，帮助你为在Frontier AI Labs的工作做好准备。 我已经在回复中分享了播放列表！

你正在参加OpenAI的研究科学家面试。 面试官问： “你将如何将LLM的上下文长度从2K扩展到128K个标记？” 你：“我将对模型进行微调，以适应128K上下文的更长文档。” 面试结束。 你错过了以下内容：

Docker 在 2 分钟内解释！ 大多数开发者每天都在使用 Docker，却不理解其背后的运作原理。以下是您需要了解的所有内容。 Docker 有 3 个主要组件： 1️⃣ Docker 客户端：您在这里输入命令，通过 API 与 Docker 守护进程进行通信。 2️⃣ Docker 主机：守护进程在这里运行，处理所有繁重的工作（构建镜像、运行容器和管理资源） 3️⃣ Docker 注册表：存储 Docker 镜像。Docker Hub 是公共的，但公司会运行私有注册表。 当您运行 "docker run" 时会发生以下情况： • Docker 从注册表中拉取镜像（如果本地没有可用的） • Docker 从该镜像创建一个新容器 • Docker 为容器分配一个可读写的文件系统 • Docker 创建一个网络接口以连接容器 • Docker 启动容器 就是这样。 客户端、主机和注册表可以在不同的机器上运行。这就是 Docker 扩展性如此优秀的原因。 理解这个架构使得调试容器问题变得更加容易。当出现故障时，您将确切知道该去哪里查看。 ____ 如果您觉得这很有启发性，请与您的网络分享。 找到我 → @_avichawla 获取更多关于机器学习和 AI 工程的见解和教程！