最新公告:

新银河是诚信为本,市场在变,我们的诚信永远不变...

evo视讯(中国)真人平台

咨询热线

400-123-4657

新闻动态

当前位置: 首页 > 新闻动态

.net环境 NET环境下跨进程、高频率读写数据

添加时间:2025-02-26

真人百家家乐app

来源://p/.html

一、需求背景

1、最近项目要求高频次地读写数据,数据量也不是很大,多表总共加起来在百万条上下。

单表最大的也在25万左右,历史数据表因为不涉及所以不用考虑,

难点在于这个规模的热点数据,变化非常频繁。

数据来源于一些检测设备的采集数据,一些大表,有可能在极短时间内(如几秒钟)可能大部分都会变化,

而且主程序也有一些后台服务需要不断轮询、读写某种类型的设备,所以要求信息交互时间尽可能短。

2、之前的解决方案是把所有热点数据,统一加载到共享内存里边,到也能够支撑的住(毫秒级的),但是由于系统架构升级,之前的程序(20年前的)不能兼容。

只能重新写一个,最先想到的是用redis,当时把所有API重写完成后,测试发现效率不行,是的真人百家家乐app,你没有看错,redis也是有使用范围的。

3、redis读写非常快,但是对于大批量读写操作我觉得支持不够,虽然redis支持批量读写,但是效率还是不够快,

对于字符串()类型的批量读写,我测试过;效率比较好的在每批次200 至 250条之间,处理20万条数据耗时5秒左右, (PC机,8G,4核)

而对于有序集合( set)类型,批量写的操作用起来非常别扭,而且没有修改API(如有其他方式请指教),我测试过,效率没类型那么高

其他类型不适合我的业务场景,就没考虑使用了

4、所以项目组最后决定还是用回共享内存,先决定在.net环境下使用c#的共享内存,这个功能可能使用的人不多,其实在.net4.0版本就已经集成进来了在.IO.命名空间下。这个类库让人很无语,因为里边能用的只有Write、Read这2种方法,而且只是针对字节的操作,

需要非常多的类型转换,非常麻烦!想想,只能以字节为单位去构建一个需要存放百万级数据的内存数据库,得多麻烦?

需要手动搞定索引功能,因为要支持各种查询,最后花了一天的时间写完DEMO,最后测试后发现效率并没有很大提高,因为当时加了互斥量测试,

但是离毫秒级差得远。这个技术点有兴趣的可以了解下,园子里有,如:

二、没错,第一节写的太多了

1、最后分析,这应该是c#语言的瓶颈,c#对于这种骚操作是不那么成熟的。

2、最后瞄来瞄去,决定使用VC开发一个dll,在里边封装对内存数据的读写功能,然后c#调用

3、本人的C、C++不那么熟、参考了一些实例,比如园子里的:

4、是的,你没有看错,2008年的,我还看到一篇更早的,看来底层开发C、C++那么经久不衰不是没有道理的,很多技术现在都在用

5、看看什么是共享内存

三、开始写代码了

.net环境 NET环境下跨进程、高频率读写数据

1、首先建2个控制台项目,支持MFC,

2、先这样:一个负责创建共享内存,初始化数据

3、再这样:一个读写数据测试,最后修改

4、最后修改下图片细节,测试一下,看看效果

5、完成了,see, 是不是很简单呀?都会了吗?

四、代码

1、先定义个枚举返回状态

typedef enum{    Success = 0,   AlreadyExists = 1,      Error = 2,       OverSize = 3}   enumMemory;

2、再定义个结构体用来测试

typedef struct{    int        TagID;    char    TagName[32];    int        Area;    double    EngVal;    double    UpdateTime;    double    RawMax;    double    RawMin;    double    RawVal;    char    Name[50];    char    Al;    double    ASTime;    char    MaskState;    double    AMTime;    char    Cf;    char    Tdf;    char    AlarmCode[32];}TENG;

3、开始创建共享内存

int Create(UINT size){
// Data
HANDLE fileMap = CreateFileMapping(INVALID_HANDLE_VALUE, NULL, PAGE_READWRITE, 0, size, “Name”);
if (fileMap == NULL || fileMap == INVALID_HANDLE_VALUE)
return Error;
if (GetLastError() == ERROR_ALREADY_EXISTS)
return AlreadyExists;
// init
void *mapView = MapViewOfFile(fileMap, FILE_MAP_WRITE, 0, 0, size);


if (mapView == NULL)
return Error;
else
memset(mapView, 0, size);
return Success;
}

4、再开始写数据

int Write(void *pDate, UINT nSize, UINT offset)
{
// open
HANDLE fileMap = OpenFileMapping(FILE_MAP_WRITE, FALSE, “Name”);


if (fileMap == NULL)
return Error;


// hander
void *mapView = MapViewOfFile(fileMap, FILE_MAP_WRITE, 0, 0, nSize);


if (mapView == NULL)
return Error;
else
WriteDataPtr = mapView;


// write
memcpy(mapView, pDate, nSize);


UnmapViewOfFile(pMapView);
return Success;
}

5、开始读数据

int Read(void *pData, UINT nSize, UINT offset){    // open
    HANDLE fileMap = OpenFileMapping(FILE_MAP_READ, FALSE, GetTableName()); if (fileMap == NULL)
        return Error; // hander
    void *pMapView = MapViewOfFile(fileMap, FILE_MAP_READ, 0, 0, nSize);    if (pMapView == NULL)        return Error;    else        ReadDataPtr = pMapView;    memcpy(pData, (pMapView, nSize);    UnmapViewOfFile(pMapView);    return Success;}

6、OK了,不复杂,网上都有这些资料,最后我们贴上测试程序

int _tmain(int argc, TCHAR* argv[], TCHAR* envp[]){    int length = 100000;    CEng * ceng = new CEng();    DWORD dwStart = GetTickCount();    for (int i = 0; i < length; i++) {        TENG eng;        ceng->Read(&eng, ceng->size, ceng->size * i);        eng.EngVal = i;        ceng->Write(&eng, ceng->size, (i*ceng->size));        if (i % 10000 == 0 || i == length - 1)            printf("正在读写的Eng.TagName:%s \n", eng.TagName);    }    printf("总条数%d,耗时:%d 毫秒 \n"length, GetTickCount() - dwStart);    // 验证数据    TENG eng5000;    ceng->Read(&eng5000, ceng->size, ceng->size * 5000);    printf("\n验证数据 \n");
    printf("第5000个Eng的TagID:%d, EngVal:%lf \n", eng5000.TagID, eng5000.EngVal);    scanf_s("按任意键结束");   return 0;
}

7、还有写测试程序

int _tmain(int argc, TCHAR* argv[], TCHAR* envp[]){    int length = 100000;
CEng * ceng = new CEng();
    ceng->Create(ceng->size * length);
    DWORD dwStart = GetTickCount(); for (int i = 0; i < length; i++)
    { TENG eng;
memset(&eng, 0, ceng->size);
eng.TagID = i;
sprintf_s(eng.AlarmCode, "AlarmCode.%d", i);
sprintf_s(eng.TagName, "TagName.%d", i);
if (i % 10000 == 0 || i == length - 1)
printf("正在写入的Eng.TagName:%s \n", eng.TagName);
ceng->Write(&eng, ceng->size, (i*ceng->size));
    } // print time
    printf("写入数据完毕,总条数:%d\n"length); printf("初始化值共享内存区耗时:%d 毫秒 \n", GetTickCount() - dwStart);
scanf_s("按任意键结束");
return 0;
}

8、当然得再贴一遍啦

.net环境 NET环境下跨进程、高频率读写数据

五、差点忘记做成DLL了

1、定义外部函数

extern "C" __declspec(dllexport) int ReadFromSharedMemory(TENG *pData, int nSize, int offset){    return ceng->Read(pData, nSize, offset);}extern "C" __declspec(dllexport) int WriteToSharedMemory(void *pData, int nSize, int offset){    return ceng->Write(pData, nSize, offset);}

2、好了,VC到此为止,可以去领盒饭了,c#进场

public class Lib{    [DllImport("ConsoleApplication4.dll", CallingConvention = CallingConvention.Cdecl)]    public static extern int ReadFromSharedMemory(IntPtr pData, int nSize, int offset);    [DllImport("ConsoleApplication4.dll", CallingConvention = CallingConvention.Cdecl)]    public static extern int WriteToSharedMemory(IntPtr pData, int nSize, int offset);}

3、c#测试一下

static void Main(string[] args)
{
var length = 100000;
var startTime = DateTime.Now;
var size = Marshal.SizeOf(typeof(TEng));
var intPtrOut = Marshal.AllocHGlobal(size);
var intPtrIn = Marshal.AllocHGlobal(size);
for (var i = 0; i < length; i++)
{
Lib.ReadFromSharedMemory(intPtrOut, size, size * i);


var eng = Marshal.PtrToStructure(intPtrOut);
eng.EngVal = i;
Marshal.StructureToPtr(eng, intPtrIn, true);
Lib.WriteToSharedMemory(intPtrIn, size, size * i);


if (i % 10000 == 0)
Console.WriteLine("eng.TagID:{0}", eng.TagID);
}


Console.WriteLine("总条数{0},耗时:{1} 毫秒", length.ToString(),
(DateTime.Now - startTime).TotalMilliseconds.ToString());
// 验证数据
var intPtr100 = Marshal.AllocHGlobal(size);
Lib.ReadFromSharedMemory(intPtr100, size, size * 100);
var eng100 = Marshal.PtrToStructure(intPtr100);


Console.WriteLine();
Console.WriteLine("验证数据");
Console.WriteLine("第100个Eng的TagID:{0},EngVal:{1}", eng100.TagID, eng100.EngVal);
Console.ReadKey();
}

4、165毫秒,相比在VC下运行,差了一个数量级,但是,也不错了;

因为c#环境下需要不断的.、.,频繁地把数据在托管内存俞共享内存之间搬运是需要耗费时间的,这点有更好处理方式的请指教。

六、因为跨线程、进程,所以要考虑加入互斥量

1、很简单,MFC下有现成的类,加在Write里边在看看效率

互斥量是需要耗费资源的,多了将进100毫秒

2、读写都加上互斥量试试看

又多了80多毫秒,

鱼与熊掌不可兼得,要根据实际运用场景觉得是否加上互斥量。

真人百家家乐app,愿您夜夜笙歌,祝我们的祖国和平昌盛国泰民安

生活常识辨真伪!看看有多少是意想不到的结果!

真人百家家乐app

生活常识辨真伪

看看有多少是意想不到的结果!

不吃早饭易得胆结石【真的】

解释:因为即使不吃早饭,也一样会分泌胆汁,造成胆汁堆积容易形成胆结石。另外,不吃中饭和晚饭也会容易得结石。所以,哪怕您再忙,也要记得吃三餐哦。

吃大骨头汤能补钙【假的】

解释:汤里面的钙的确比较多,但由于骨头里的钙非常难溶解出来,结果汤里面出来的钙仍然非常少,就连牛奶里钙的十分之一都不到,也就不可能起到实际的补钙的作用。

电脑前放盆仙人掌能防辐射【假的】

解释:经辐射检验仪检测,仙人掌并不具备防辐射功效。事实上,尚未发现任何一种植物具备防辐射能力。

烧烤时戴隐形眼镜会使隐形眼镜熔化【假的】

解释:合格的隐形眼镜在高温的状态下,依然是很稳定的,不用担心它遇到高温会熔化,如果觉得不舒服,可以滴点眼药水,因为隐形眼镜在有水的情况下更耐高温哦。

蛇头斩断后还能咬人【真的】

解释:因为蛇是变温动物,在被砍头后,头部所需供氧不多,还能存活一段时间!所以大家一定要注意安全,千万不可麻痹大意!

超市小票有双酚A,摸多会致癌【假的】

解释:虽然超市小票有双酚A,但每1g小票中含双酚A 0.0139g,它迁移到人体的量微乎其微,就拿收银员为例,每天接触小票的时间为10小时真人百家家乐app,他对双酚A的摄入量比允许摄入量低42倍。因此,消费者一天接触几张购物小票,更不会影响健康,也不会致癌。

打鼾其实是病【真的】

生活常识辨真伪!看看有多少是意想不到的结果!

解释:打鼾虽然常见,但不可小视!特别是间断性的打鼾,是由于气道出现堵塞然后缺氧,它是长期的,慢性的。可导致大脑、心肺、肝肾等全身器官的缺氧,引起肥胖,,严重时可导致猝死。打鼾严重时,应去医院进行专业性检查和治疗。

保鲜膜不能反复使用,不能加热【真的】

解释:反复使用保鲜膜会造成食物交叉感染,滋生细菌,所以千万不要反复使用,会加速食物的腐败!另外,只有标有“可用微波炉”的保鲜膜才可加热或消毒哦,但时间也不能过长。专家提醒:高压锅等其他厨具和厨房电器也不能用来加热裹着保鲜膜的食物。

吃猪血能去肺里的灰尘【没有科学依据哦】

解释:虽然有些蛋白质确实能结合一些污染物,但毕竟它是在消化道里完成的,可吸进去的灰尘,是吸进肺里的,我们吃东西是不可能吃进肺里和气管里的。所以猪血起到的作用还是很有限的。但是猪血的补铁效果还是不错的。

10

手机套会致癌【真的】

解释:价格低廉劣质的手机套,是一些废旧塑料制成的,含有甲醛、苯等有害物质,还会挥发释放有毒的苯系物和其他有毒物质,所以朋友们要尽量选择那些颜色干净透明、材质单一的手机套,不要买有刺鼻异味、呛眼睛、摸完掉色的!

11

碳酸饮料喝多了会骨质疏松【真的】

解释:长期饮用碳酸饮料会影响人体所需微量元素的吸收,钙减少了会影响骨骼的代谢,骨骼强度就会下降。所以,要少喝碳酸饮料哦。

12

切辣椒辣手可用油或酒精缓解症状【真的】

生活常识辨真伪!看看有多少是意想不到的结果!

解释:辣椒的主要成分是辣椒素,辣椒素是一种油溶性的东西,但不溶于水,当您感觉辣椒辣手时,用油或酒精倒手上再用纸擦拭掉是比较好的方法。

13

鸡精或味精吃多了会致癌【假的】

解释:这种说法没有科学依据,二者确实会使膳食中钠含量上升,主要危险实际上是对高血压病人不太好,还可能会干扰幼儿的氨基酸平衡。所以高血压病人和儿童,尽量不要食用这两种高钠的调味料。

14

吃黑芝麻能让头发变黑【假的】

解释:对于微量元素缺失的白发,黑芝麻中虽含有丰富的微量元素,但作用力太小,而且吃了以后也不一定能百分百消化吸收。对于年纪大了而导致的白发,黑芝麻还是不能够扭转其衰老情况的。

15

头发会吸收人体很多营养【假的】

解释:当头发长出来以后,就已经是硬化、角化的一个东西,也就是说已经没有生命了,是没有血管没有神经的,所以头发根本就不会吸收我们的营养。

16

洗手液比香皂洗的干净【假的】

解释:香皂杀菌能力更强!因为香皂的表面活性剂含量远高于洗手液,洗手过程中,表面活性剂在去除皮肤表面油渍、污渍的同时,也随之清除了细菌,这就使得香皂的去污能力较强。

真人百家家乐app,愿您夜夜笙歌,祝我们的祖国和平昌盛国泰民安

联系我们

电话:400-123-4657

传真:+86-123-4567

地址:浙江 温州市 温州大道欧江大厦26188号

邮箱:admin@fago288.com

电话:400-123-4657 传真:+86-123-4567 地址:浙江 温州市 温州大道欧江大厦26188号
版权所有:Copyright © 2002-2025 evo视讯真人网站 版权所有 非商用版本 ICP备案编号:粤IP**********