当前位置： 代码网 > it编程>前端脚本>Golang > 如何使用腾讯云go sdk 查询对象存储中最新文件

如何使用腾讯云go sdk 查询对象存储中最新文件

2024年05月18日 • Golang •我要评论
背景：腾讯云账号下，有很多对象存储cos桶：我现在想确认某一个对象存储桶的活跃程度，简单的来说。我想知道这个桶里面最后上传的一个文件是什么，以及它的上传时间戳。本文将介绍如何使用腾讯云对象存储（cos

背景：

腾讯云账号下，有很多对象存储cos桶：

我现在想确认某一个对象存储桶的活跃程度，简单的来说。我想知道这个桶里面最后上传的一个文件是什么，以及它的上传时间戳。
本文将介绍如何使用腾讯云对象存储（cos）的 go 语言 sdk 查询指定存储桶中的最新文件信息，包括文件路径和上传时间。本教程假设读者已经具备基本的 go 语言编程知识，并且对腾讯云 cos 有一定的了解。

使用腾讯云go sdk 查询对象存储中最新文件

前置条件

  • 您需要拥有一个腾讯云账号，并创建了至少一个cos存储桶。
  • 了解go语言和基本的并发编程知识。
  • 确保您已安装go运行时环境。

安装腾讯云cos go sdk

在开始之前，先确保您的开发环境已安装了腾讯云cos的go sdk。如果尚未安装，可以使用以下go命令安装：

mkdir xxxx
go mod int xxxx
go get github.com/tencentyun/cos-go-sdk-v5

我们这里的操作是属于list object 参照：getbucket

第一版代码：

使用chatgpt生成第一版代码：
main.go

package main
import (
	"context"
	"fmt"
	"net/http"
	"net/url"
	"sort"
	"time"
	"github.com/tencentyun/cos-go-sdk-v5"
)
// 请替换下面的假设值为实际的 secretid、secretkey、bucketname 和 region。
const (
	secretid     = "xxxxxx"
	secretkey    = "xxxx"
	bucketname   = "xxxxxx" // 例如 "example-1250000000"
	bucketregion = "ap-shanghai"      // 例如 "ap-guangzhou"
)
func main() {
	u, _ := url.parse(fmt.sprintf("https://%s.cos.%s.myqcloud.com", bucketname, bucketregion))
	b := &cos.baseurl{bucketurl: u}
	client := cos.newclient(b, &http.client{
		transport: &cos.authorizationtransport{
			secretid:  secretid,
			secretkey: secretkey,
		},
	})
	c := context.background()
	opt := &cos.bucketgetoptions{
		maxkeys: 1000, // 修改这个值以获取更多或更少的对象
	}
	v, _, err := client.bucket.get(c, opt)
	if err != nil {
		panic(err)
	}
	// 对结果进行排序，找到最后更新的对象
	if len(v.contents) > 0 {
		sort.slice(v.contents, func(i, j int) bool {
			ti, _ := time.parse(time.rfc3339, v.contents[i].lastmodified)
			tj, _ := time.parse(time.rfc3339, v.contents[j].lastmodified)
			return ti.after(tj)
		})
		lastupdatedobj := v.contents[0]
		fmt.printf("最新上传文件路径: %s\n", lastupdatedobj.key)
		fmt.printf("最新上传时间: %s\n", lastupdatedobj.lastmodified)
	} else {
		fmt.println("桶中没有文件。")
	}
}

运行main.go

go run main.go

运行后也许感觉是正确的，毕竟没有报错。但是这里是有问题的，为什么呢？因为我本身不知道最后一个文件是什么，我手动上传了一个文件，最后一个文件应该是输出：go1.22.0.linux-amd64.tar.gz！

什么原因呢？问题应该是在这里：

c := context.background()
	opt := &cos.bucketgetoptions{
		maxkeys: 1000, // 修改这个值以获取更多或更少的对象
	}

marker标记参数没有设置
继续修改完善main.go代码：

package main
import (
	"context"
	"fmt"
	"net/http"
	"net/url"
	"sort"
	"time"
	"github.com/tencentyun/cos-go-sdk-v5"
)
// 请替换以下的假设值为实际的 secretid、secretkey、bucketname 和 region。
const (
	secretid     = "xxxxxx"
	secretkey    = "xxxx"
	bucketname   = "xxxxxx" // 例如 "example-1250000000"
	bucketregion = "ap-shanghai"      // 例如 "ap-guangzhou"
)
func main() {
	u, _ := url.parse(fmt.sprintf("https://%s.cos.%s.myqcloud.com", bucketname, bucketregion))
	b := &cos.baseurl{bucketurl: u}
	client := cos.newclient(b, &http.client{
		transport: &cos.authorizationtransport{
			secretid:  secretid,
			secretkey: secretkey,
		},
	})
	c := context.background()
	var lastupdatedobj *cos.object
	istruncated := true
	nextmarker := ""
	for istruncated {
		opt := &cos.bucketgetoptions{
			marker:   nextmarker,
			maxkeys:  1000, // 单次请求返回的最大对象数
		}
		v, _, err := client.bucket.get(c, opt)
		if err != nil {
			panic(err)
		}
		for _, object := range v.contents {
			if lastupdatedobj == nil || object.lastmodified > lastupdatedobj.lastmodified {
				lastupdatedobj = &object
			}
		}
		// 更新下一个标记和是否截断的标志
		istruncated = v.istruncated
		nextmarker = v.nextmarker
	}
	// 检查是否有对象被找到
	if lastupdatedobj != nil {
		fmt.printf("最新上传文件路径: %s\n", lastupdatedobj.key)
		fmt.printf("最新上传时间: %s\n", lastupdatedobj.lastmodified)
	} else {
		fmt.println("桶中没有文件。")
	}
}

运行修改后的main.go文件：

go run main.go

输出go1.22.0.linux-amd64.tar.gz这个起码是正确的！

拆分代码

想继续拆分一下，将客户端的创建和查找逻辑拆分到两个独立的函数createcosclient getlastupdatedfileinfo，然后main函数中调用：

package main
import (
	"context"
	"fmt"
	"github.com/tencentyun/cos-go-sdk-v5"
	"net/http"
	"net/url"
	"sort"
	"time"
)
// 请替换下面的假设值为实际的 secretid、secretkey、bucketname 和 region。
const (
	secretid     = "xxxxxx"
	secretkey    = "xxx"
	bucketname   = "xxxxx" // 例如 "example-1250000000"
	bucketregion = "ap-shanghai"      // 例如 "ap-guangzhou"
)
// 创建 cos 客户端
func createcosclient(secretid, secretkey, bucketname, bucketregion string) *cos.client {
	u, _ := url.parse(fmt.sprintf("https://%s.cos.%s.myqcloud.com", bucketname, bucketregion))
	b := &cos.baseurl{bucketurl: u}
	client := cos.newclient(b, &http.client{
		transport: &cos.authorizationtransport{
			secretid:  secretid,
			secretkey: secretkey,
		},
	})
	return client
}
func getlastupdatedfileinfo(client *cos.client) (key, lastmodifiedtime string, err error) {
	c := context.background()
	// 初始化一个空字符串，表示从桶的开头获取文件列表
	nextmarker := ""
	var allcontents []cos.object
	for {
		opt := &cos.bucketgetoptions{
			maxkeys: 1000,
			marker:  nextmarker,
		}
		v, _, err := client.bucket.get(c, opt)
		if err != nil {
			return "", "", err
		}
		allcontents = append(allcontents, v.contents...)
		// 如果没有更多的文件，则停止循环
		if !v.istruncated {
			break
		}
		// 更新 nextmarker 为下一页的开始位置
		nextmarker = v.nextmarker
	}
	// 对所有结果进行排序以找到最新更新的对象
	if len(allcontents) > 0 {
		sort.slice(allcontents, func(i, j int) bool {
			ti, errti := time.parse(time.rfc3339, allcontents[i].lastmodified)
			tj, errtj := time.parse(time.rfc3339, allcontents[j].lastmodified)
			if errti != nil || errtj != nil {
				fmt.printf("error parsing time: %v, %v", errti, errtj)
				return false
			}
			return ti.after(tj)
		})
		lastupdatedobj := allcontents[0]
		return lastupdatedobj.key, lastupdatedobj.lastmodified, nil
	} else {
		return "", "", fmt.errorf("桶中没有文件")
	}
}
func main() {
	client := createcosclient(secretid, secretkey, bucketname, bucketregion)
	key, lastmodifiedtime, err := getlastupdatedfileinfo(client)
	if err != nil {
		fmt.printf("\n查询失败: %v\n", err)
		return
	}
	fmt.printf("\n最后更新的文件:\n")
	fmt.printf("文件路径: %s\n", key)
	fmt.printf("最后修改时间: %s\n", lastmodifiedtime)
}

运行main.go

go run main.go

注：为了验证代码有效性，我这里后面又加了一个新的文件：zaztya1i2x.txt

加个进度条

上面的代码已经可以正常满足需求了，但是我新加一个进度条，显示查询了多少文件了。也能大概知道一个进度的状况，继续修改一下main.go

package main
import (
	"context"
	"fmt"
	"github.com/tencentyun/cos-go-sdk-v5"
	"net/http"
	"net/url"
	"sort"
	"time"
)
// 请替换下面的假设值为实际的 secretid、secretkey、bucketname 和 region。
const (
	secretid     = "xxxx"
	secretkey    = "xxxxx"
	bucketname   = "xxxxx" // 例如 "example-1250000000"
	bucketregion = "ap-shanghai"      // 例如 "ap-guangzhou"
)
// 创建 cos 客户端
func createcosclient(secretid, secretkey, bucketname, bucketregion string) *cos.client {
	u, _ := url.parse(fmt.sprintf("https://%s.cos.%s.myqcloud.com", bucketname, bucketregion))
	b := &cos.baseurl{bucketurl: u}
	client := cos.newclient(b, &http.client{
		transport: &cos.authorizationtransport{
			secretid:  secretid,
			secretkey: secretkey,
		},
	})
	return client
}
func getlastupdatedfileinfo(client *cos.client) (key, lastmodifiedtime string, err error) {
	c := context.background()
	nextmarker := ""
	var allcontents []cos.object
	var retrievedcount int
	fmt.println("开始检索文件列表...")
	for {
		opt := &cos.bucketgetoptions{
			maxkeys: 10000,
			marker:  nextmarker,
		}
		v, _, err := client.bucket.get(c, opt)
		if err != nil {
			return "", "", err
		}
		retrievedcount += len(v.contents)
		fmt.printf("已检索 %d 个文件...\r", retrievedcount) // 输出进度信息 '\r' 会覆盖当前行，这样我们就可以在同一行更新进度
		allcontents = append(allcontents, v.contents...)
		if !v.istruncated {
			break
		}
		nextmarker = v.nextmarker
	}
	fmt.println("\n文件列表检索完成。")
	if len(allcontents) > 0 {
		sort.slice(allcontents, func(i, j int) bool {
			ti, errti := time.parse(time.rfc3339, allcontents[i].lastmodified)
			tj, errtj := time.parse(time.rfc3339, allcontents[j].lastmodified)
			if errti != nil || errtj != nil {
				fmt.printf("error parsing time: %v, %v", errti, errtj)
				return false
			}
			return ti.after(tj)
		})
		lastupdatedobj := allcontents[0]
		return lastupdatedobj.key, lastupdatedobj.lastmodified, nil
	} else {
		return "", "", fmt.errorf("桶中没有文件")
	}
}
func main() {
	client := createcosclient(secretid, secretkey, bucketname, bucketregion)
	key, lastmodifiedtime, err := getlastupdatedfileinfo(client)
	if err != nil {
		fmt.printf("\n查询失败: %v\n", err)
		return
	}
	fmt.printf("\n最后更新的文件:\n")
	fmt.printf("文件路径: %s\n", key)
	fmt.printf("最后修改时间: %s\n", lastmodifiedtime)
}

运行main.go

go run main.go

继续完善

继续完善一下代码：我需要把maxkeys 提取出来，增加一下输出程序的运行时间，并把输出文件的时间戳调整为东八区时间：

package main
import (
	"context"
	"fmt"
	"github.com/tencentyun/cos-go-sdk-v5"
	"net/http"
	"net/url"
	"sort"
	"time"
)
const (
	secretid     = "xxxx"
	secretkey    = "xxxxx"
	bucketname   = "xxxxx"
	bucketregion = "ap-shanghai"
	maxkeys      = 1000 // 设置最大检索数量的常量
)
var cstzone = time.fixedzone("cst", 8*3600) // 东八区时区
func createcosclient(secretid, secretkey, bucketname, bucketregion string) *cos.client {
	u, _ := url.parse(fmt.sprintf("https://%s.cos.%s.myqcloud.com", bucketname, bucketregion))
	b := &cos.baseurl{bucketurl: u}
	client := cos.newclient(b, &http.client{
		transport: &cos.authorizationtransport{
			secretid:  secretid,
			secretkey: secretkey,
		},
	})
	return client
}
func getlastupdatedfileinfo(client *cos.client) (key, lastmodifiedtime string, err error) {
	c := context.background()
	nextmarker := ""
	var allcontents []cos.object
	var retrievedcount int
	fmt.println("开始检索文件列表...")
	for {
		opt := &cos.bucketgetoptions{
			maxkeys: maxkeys, // 使用常量 maxkeys
			marker:  nextmarker,
		}
		v, _, err := client.bucket.get(c, opt)
		if err != nil {
			return "", "", err
		}
		retrievedcount += len(v.contents)
		fmt.printf("已检索 %d 个文件...\r", retrievedcount)
		allcontents = append(allcontents, v.contents...)
		if !v.istruncated {
			break
		}
		nextmarker = v.nextmarker
	}
	fmt.println("\n文件列表检索完成。")
	if len(allcontents) > 0 {
		sort.slice(allcontents, func(i, j int) bool {
			ti, errti := time.parse(time.rfc3339, allcontents[i].lastmodified)
			tj, errtj := time.parse(time.rfc3339, allcontents[j].lastmodified)
			if errti != nil || errtj != nil {
				fmt.printf("error parsing time: %v, %v", errti, errtj)
				return false
			}
			return ti.after(tj)
		})
		lastupdatedobj := allcontents[0]
		// 将文件的 lastmodified 时间字符串转换为 time.time
		t, err := time.parse(time.rfc3339, lastupdatedobj.lastmodified)
		if err != nil {
			return "", "", fmt.errorf("无法解析最后修改时间: %v", err)
		}
		// 转换为东八区时间
		csttime := t.in(cstzone).format(time.rfc3339)
		return lastupdatedobj.key, csttime, nil
	} else {
		return "", "", fmt.errorf("桶中没有文件")
	}
}
func main() {
	start := time.now() // 程序开始时间
	client := createcosclient(secretid, secretkey, bucketname, bucketregion)
	key, lastmodifiedtime, err := getlastupdatedfileinfo(client)
	if err != nil {
		fmt.printf("\n查询失败: %v\n", err)
		return
	}
	fmt.printf("\n最后更新的文件:\n")
	fmt.printf("文件路径: %s\n", key)
	fmt.printf("最后修改时间: %s\n", lastmodifiedtime)
	elapsed := time.since(start) // 程序执行时间
	fmt.printf("\n程序运行时间: %s\n", elapsed)
}

运行修改后的main.go文件：

go run main.go

继续发散

继续发散一下，我需要输出最后上传的10个文件

package main
import (
	"context"
	"fmt"
	"github.com/tencentyun/cos-go-sdk-v5"
	"net/http"
	"net/url"
	"sort"
	"time"
)
// 请替换下面的假设值为实际的 secretid、secretkey、bucketname 和 region。
const (
	secretid      = "akid7mhwz45a9zqccf4s07a7fikktlaief7m"
	secretkey     = "kxbxl0unr2eabsicyejj1gkejo2jwoag"
	bucketname    = "layabox-10028350" // 例如 "example-1250000000"
	bucketregion  = "ap-shanghai"      // 例如 "ap-guangzhou"
	maxkeys       = 1000               // 设置最大检索数量的常量
	numberoffiles = 10                 // 需要获取的最后更新的文件数量
)
var cstzone = time.fixedzone("cst", 8*3600) // 东八区时区
func createcosclient(secretid, secretkey, bucketname, bucketregion string) *cos.client {
	u, _ := url.parse(fmt.sprintf("https://%s.cos.%s.myqcloud.com", bucketname, bucketregion))
	b := &cos.baseurl{bucketurl: u}
	client := cos.newclient(b, &http.client{
		transport: &cos.authorizationtransport{
			secretid:  secretid,
			secretkey: secretkey,
		},
	})
	return client
}
func getlastupdatedfileinfo(client *cos.client, numberoffiles int) ([]cos.object, error) {
	c := context.background()
	nextmarker := ""
	var allcontents []cos.object
	var retrievedcount int
	fmt.println("开始检索文件列表...")
	for {
		opt := &cos.bucketgetoptions{
			maxkeys: maxkeys, // 使用常量 maxkeys
			marker:  nextmarker,
		}
		v, _, err := client.bucket.get(c, opt)
		if err != nil {
			return nil, err
		}
		retrievedcount += len(v.contents)
		fmt.printf("已检索 %d 个文件...\r", retrievedcount)
		allcontents = append(allcontents, v.contents...)
		if !v.istruncated {
			break
		}
		nextmarker = v.nextmarker
	}
	fmt.println("\n文件列表检索完成。")
	fmt.printf("\n桶中总文件数: %d\n", len(allcontents))
	if len(allcontents) > 0 {
		sort.slice(allcontents, func(i, j int) bool {
			ti, errti := time.parse(time.rfc3339, allcontents[i].lastmodified)
			tj, errtj := time.parse(time.rfc3339, allcontents[j].lastmodified)
			if errti != nil || errtj != nil {
				fmt.printf("error parsing time: %v, %v", errti, errtj)
				return false
			}
			return ti.after(tj)
		})
		// 截取切片以获取最后更新的numberoffiles个文件
		if len(allcontents) > numberoffiles {
			allcontents = allcontents[:numberoffiles]
		}
		// 返回最后更新的numberoffiles个文件
		return allcontents, nil
	} else {
		return nil, fmt.errorf("桶中没有文件")
	}
}
func main() {
	start := time.now() // 程序开始时间
	client := createcosclient(secretid, secretkey, bucketname, bucketregion)
	files, err := getlastupdatedfileinfo(client, numberoffiles)
	if err != nil {
		fmt.printf("\n查询失败: %v\n", err)
		return
	}
	fmt.printf("\n最后更新的%d个文件:\n", numberoffiles)
	for _, file := range files {
		t, err := time.parse(time.rfc3339, file.lastmodified)
		if err != nil {
			fmt.printf("无法解析文件 %s 的最后修改时间: %v\n", file.key, err)
			continue
		}
		csttime := t.in(cstzone).format(time.rfc3339)
		fmt.printf("文件路径: %s\n", file.key)
		fmt.printf("最后修改时间: %s\n", csttime)
	}
	elapsed := time.since(start) // 程序执行时间
	fmt.printf("\n程序运行时间: %s\n", elapsed)
}

其实也想过协程或者其他方式？但是奈何max-keys 最大是1000测试了一下没有太大的提升放弃了…

总结

在这篇博客中，我们学习了如何使用腾讯云 cos go sdk 查询存储桶中最新的文件信息。这包括如何创建cos客户端，如何逐页检索对象列表，并如何对结果排序以找到最后更新的对象。我们还展示了如何优化用户体验，通过实时进度更新和检索多个文件来改进程序。

希望本文能帮助你在使用腾讯云 cos 时实现更高效的数据管理。

到此这篇关于使用腾讯云go sdk 查询对象存储中最新文件的文章就介绍到这了,更多相关腾讯云go sdk 查询对象存储内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网！

赞 (0)

相关文章:

版权声明：本文内容由互联网用户贡献，该文观点仅代表作者本人。本站仅提供信息存储服务，不拥有所有权，不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 2386932994@qq.com 举报，一经查实将立刻删除。

发表评论

验证码：
最近更新的文章
推荐阅读
大家感兴趣的文章
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱：2386932994@qq.com