标签: 注意事项

  • 韩国公民应注意在华使用软件带来的风险

    韩情报机构提醒公民注意在华“翻墙”使用软件

    韩国国家情报院27日表示,由于中国政府下月起加大国安机关对电子设备进行临时检查的权限,当地韩国公民须留意通过虚拟专用网络 (VPN) 使用在华禁用聊天软件等应用所带来的风险。国情院表示,根据中国国家安全部4月发布的《国家安全机关行政执法程序规定》,中国有关部门一旦认定在华韩国公民有涉嫌危害国家安全的行为,可以单方面获取聊天记录、电子邮件、照片和登录记录等涉及隐私的信息,还可给予扣押和罚款等处罚。国情院表示,通过 VPN 使用脸书、照片墙、Kakao Talk 等在华禁用的应用软件等行为可成为临时检查对象,并提醒公民遇到临时检查时立即向外交部领事保护热线、韩国驻华大使馆或所在地总领事馆寻求帮助。

    —— 韩联社

  • 大型语言模型的自托管经验和注意事项

    私人自托管大型语言模型:运行经验分享与注意事项

    最近半年大型语言模型非常火爆,笔者本人循着开源精神,试着搭建过自托管(self-host)大模型,也踩过不少坑,现在来分享一下经验。

    1. 最容易/成熟的选择:
    llama的Vicuna,之前还需要申请llama的模型访问权限后才能加载他们的增量(类似于需要有stable diffusion 模型才能加载LoRa),但是是由于llama模型漏的到处都是了, 所以现在他们直接放出了所有权重可以直接部署。(而且脚本都给你写好了。

    2.如何部署:
    7B的模型需要14GVRAM,13B需要28-30VRAM(28G可以加载模型,一推理就会oom),而最新的33B模型需要至少80G VRAM进行部署。同时,多GPU不能分担显存需求,除非是裸机级别的NVlink(VPS因为不保证你租到的是相邻两个有NVlink的GPU,可能部署没问题,但是一进行推理就会炸显存,因为pcl express带宽不够)。

    那么最好的选择是Vultr,他们是少数几家有80G 级别的A100商家,而且能按小时付费,价格是Azure之类的1/2一下。

    但是要注意的是,他们家默认credit limit是$1,000/mo 但是A100价格是$1,750/mo,尽管按小时计费,但是因为月度credit limit不够,会直接开不出来,需要正常使用他们家其他服务几个月后,才能申请增加额度。(本人是几年的老用户,来回发了4-5份工单才同意增额的)。

    但是如果只是体验一下13B的model的话,可以租用半个GPU(40G VRAM,够用).

    3.进一步省钱的办法:
    看好需要VRAM额度,租用1/2个或1/3个GPU足以。
    同时善用他们家的快照功能,如果你不熟悉linux命令的话,可以先租用一个50-100G SSD的CPU VPS (取决于模型大小)(每个小时只要 $0.04-0.06,比GPU服务器便宜一个数量级),部署好后不启动,拍摄快照,再从快照还原到GPU服务器。(但是要注意拍摄快照与还原均需大约一个小时,如果你熟悉linux命令,你大约可以在30分钟内部署完成,快照反而会多花钱)。(注意记录下一开始的root密码,快照会还原原来的root密码,但不显示)。

    5.模型感觉怎么样?
    尽管宣传比肩ChartGPT,但是其实比ChartGPT差多了(大约有微软小冰的水平?)比如我蓄意给予错误的指令(“请告诉我有关阿里巴巴森林公园的情况”,他开始回答“阿里巴巴森林公园是一个风景秀丽,环境优美。。。。。。” 换成英文也得到类似的结果 “Please tell me something about Tencent National park” 也回答了类似的结果,而ChartGPT会质疑阿里巴巴是公司而非森林公园的名字)。(毕竟ChartGPT宣传是175B,和13B差差不多10倍)

    6.最后:
    美国有传闻要禁止中国公司或公民在外国租用高端计算卡以绕过显卡禁令,尚不知是否会波及类似用例(因为只是单显卡,未进行互联,而A800砍的是互联能力)。希望不会吧。

  • 居家管理新冠肺炎时需要注意的药物使用方式

    参考:美国医疗机构关于新冠肺炎居家管理用药的建议

    (注意以下内容为节选,请 点击这里 仔细阅读原文。该内容为美国医疗机构面向美国公众提供的意见,在实际操作中请结合本地和本人健康状况综合考量,如果你不掌握基本医疗知识请向专业的医疗机构咨询)节选如下:

    您可以服用对乙酰氨基酚(泰诺林)来帮助治疗发烧、身体疼痛和头痛。

    每天服用的对乙酰氨基酚剂量不应超过 3 g。 过量服用有伤肝脏。

    对乙酰氨基酚是非处方药和处方药中一种十分常见的成分。 请务必阅读所服用药物的说明标签。 药品上有时并未完整列出乙酰氨基酚的全称。

    非处方感冒药无法使 COVID-19 更快痊愈,但如果您有咳嗽、咽喉痛或鼻塞症状,它们可以帮助缓解这些症状。 如果您有高血压,请勿服用解充血药。

    抗生素对治疗 COVID-19 没有效果。 请勿使用抗生素,除非您的医疗保健提供者建议您服用。

    如果您感染 COVID-19,但没有任何症状,请勿服用任何感冒药、对乙酰氨基酚 (Tylenol®) 或非处方非甾体抗炎药 (NSAID),如布洛芬 (Advil®) 和萘普生 (Aleve®)。 这些药物可能会掩盖 COVID-19 的症状。

    如果您的医疗保健提供者告知您可以的话,您可以服用小剂量的阿司匹林(每天 81 毫克)。 如果您认为需要使用更高剂量,请首先咨询您的医疗保健提供者。

    确保饮食清淡。 例如,少吃多餐,一日六餐而非三餐。 这将有助于缓解恶心和食欲不振。

    每天喝 6 到 8 杯(每一杯8 盎司,即227毫升,相当于星巴克大杯容量的一半)水。 这将有助于您保持体内的水分,稀释鼻子和肺部的粘液。 水、运动饮料、不含咖啡因的碳酸饮料、果汁、茶和汤都是不错的选择。

    —— 纪念斯隆-凯特琳癌症中心(MSKCC)

  • Gsuite 商业版升级注意事项

    Gsuite 商业版升级注意事项

    你是 G suite 商业版用户吗,请注意即将到来的“升级”中 Google 可能会收取更高的费用。

    如果你还没有被“升级”请关注你的 G suite 后台,Google 不光会夺走你的无限容量存储,而且还可能会引导你将账户升级到 worke space 商务plus版本,而不是一些人认为对标的商业版,特别是你使用了保险柜等“特有功能”的情况下,这意味着你需要支付更高的费用。

  • 第三方购机的坑

    购机的坑

    近日有苦主描述,第三方购入某瓦某的快到期小鸡一台,续费时PayPal支付,在半年后(就是近日),被原主找回密码偷回,目前无法PayPal争议(超过半年),无法某瓦某工单要回(因为禁止私下交易)。

    扩展:你有没有遇到过坑?

    #骗术

  • 免费试用期机器配置注意事项

    整理一下:
    1.建议免费期后再开通,免费期内开通免费期到期后会删机。
    2.处理器: 总共4个OCPU,内存: 总共24 GB,再往大调可能面临收费。
    3.建议使用ubuntu系统时,不要选minimal。
    4.目前美西圣何塞无法使用,具体原因未知。
    5.具体的免费内容文档里有清楚的标明https://docs.oracle.com/en-us/iaas/Content/FreeTier/freetier_topic-Always_Free_Resources.htm#resources

    其他注意事项欢迎吊大的继续补充。

  • 自己搭建DNS服务器的注意事项

    1. ADH不是广告拦截插 件 , 一般是用来自己搭建无污染/去广告dns服务器的。
    2. 被墙的是sky他自己搭建的DoH/DoT服务器

    ——loc论坛的yuanyuexiaoni

  • 阿里云盘的使用注意事项

    阿里云盘的使用注意事项

    手上有阿里云盘6T 7T 的要注意了,本以为可以传个家,原来后续会回收。又白当了一回工具人,套路云,名不虚传

  • 关于域名备案的注意事项

    如果你有备案的域名不打算再建站记得务必要注销备案或者保留域名。否则你的域名很可能被人抢注后倒卖用来做灰产或者黑产。

    这已经是一门生意了,尤其是企业站备案不注销域名一过期就有人注册了。然后等几个月后警察就该请你去喝茶了。

    不然你以为那些卖备案域名的都是自己备案拿来卖的吗?

  • linux安全注意事项

    linux安全注意事项

    Linux sudo 堆缓冲区溢出提权漏洞已经曝出来了。有重要项目的关注一下。该漏洞可以让低权限等级用户获得服务器的root权限。