线上期刊服务咨询,发表咨询:400-808-1701 订阅咨询:400-808-1721

关于科学计算用数字电子计算机字长问题

周毓麟; 袁国兴 计算机工程与科学 2005年第10期

摘要:本文将对大型数字计算机的字长、计算速度和内存之间的匹配关系式作了简化的研究,以便简便、粗略地估计有效位数的可能值和相应速度下计算机的字长.本文还对若干实际数字试验结果进行了讨论.

关键词:字长速度计算规模数字电子计算机

单位:北京应用物理与计算数学研究所计算物理实验室; 北京100088

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

计算机工程与科学

北大期刊

¥624.00

关注 46人评论|5人关注